关于内部语言模型与序列判别式训练在神经传达器中的关系
💡
原文中文,约200字,阅读约需1分钟。
📝
内容提要
本文介绍了一种基于SLU度量标准的非可区分序列损失作为语义误差的代理,并使用REINFORCE技巧训练ASR和SLU模型的方法。作者在开放SLU数据集上展示了自定义序列损失训练的最新技术水平,并在大型专有数据集上显示了6%的相对改进。同时,作者还展示了如何使用语义反馈单独更新ASR和SLU模型。
🎯
关键要点
- 提出基于SLU度量标准的非可区分序列损失作为语义误差的代理。
- 使用REINFORCE技巧训练ASR和SLU模型。
- 展示自定义序列损失训练在开放SLU数据集上的最新技术水平。
- 在大型专有数据集上显示了6%的相对改进。
- 提高了ASR和NLU性能指标。
- 展示如何使用语义反馈单独更新ASR和SLU模型。
➡️