Achieving Continual Learning through Embedding Layer Surgery and Task-Based Beam Search

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了一种嵌入层手术,旨在提升多语言自动语音识别模型在支持新语言时的表现,有效将已知语言的字错误率从14.2%降低至11.9%,同时保持未见语言的性能。

🎯

关键要点

  • 本研究提出了一种嵌入层手术,旨在提升多语言自动语音识别模型在支持新语言时的表现。
  • 研究防止了灾难性遗忘现象。
  • 通过为每种新语言创建单独的令牌嵌入副本,结合基于任务的束搜索进行自我修正。
  • 有效将已知语言的字错误率从14.2%降低至11.9%。
  • 同时保持了对未见语言的性能。
➡️

继续阅读