Achieving Continual Learning through Embedding Layer Surgery and Task-Based Beam Search
💡
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究提出了一种嵌入层手术,旨在提升多语言自动语音识别模型在支持新语言时的表现,有效将已知语言的字错误率从14.2%降低至11.9%,同时保持未见语言的性能。
🎯
关键要点
- 本研究提出了一种嵌入层手术,旨在提升多语言自动语音识别模型在支持新语言时的表现。
- 研究防止了灾难性遗忘现象。
- 通过为每种新语言创建单独的令牌嵌入副本,结合基于任务的束搜索进行自我修正。
- 有效将已知语言的字错误率从14.2%降低至11.9%。
- 同时保持了对未见语言的性能。
➡️