Sign2GPT:利用大型语言模型进行无术语手语翻译
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
本研究提出了一种任务感知的指令网络,用于手语翻译。通过引入指令模块和特征融合策略,利用预训练模型的语言能力提高翻译性能。实验结果表明,该方法在两个基准数据集上的表现优于以前的解决方案。
🎯
关键要点
- 本研究提出了一种任务感知的指令网络 TIN-SLT,用于手语翻译。
- 引入指令模块和基于学习的特征融合策略到 Transformer 网络中。
- 充分利用预训练模型的语言能力来提高翻译性能。
- 提出了一种多级数据增强方案来调整训练集的数据分布。
- 在两个基准数据集 PHOENIX-2014-T 和 ASLG-PC12 上进行了大量实验。
- 该方法在 BLEU-4 方面的表现比以前的最佳解决方案提高了 1.65 和 1.42。
➡️