《Attention Is All You Need》论文通过WMT14英译德和英译法任务取得优异的BLEU分数，证明了Transformer架构的有效性。其训练效率显著优于前代模型，且不依赖递归和卷积，推动了机器翻译领域的变革。论文强调了注意力机制的重要性，并展示了其在现代硬件上的并行性优势，为后续大模型的发展奠定了基础。

本研究解决了大型语言模型（LLMs）与人类偏好的对齐问题，特别是训练奖励模型所需的高成本和数据需求。文章提出BLEUBERI方法，通过BLEU作为奖励函数进行强化学习，证明其在多个指令遵循基准上与传统奖励模型相当，且生成的输出在事实基础上更具优势。此外，这一发现表明，字符串匹配指标可以作为奖励模型的有效替代方案。

本文分析了传统指标（如BLEU、TER）与神经方法（如BERTScore、COMET）在日英聊天翻译中的表现。研究表明，所有指标在模型排名上表现一致，但神经指标与人类评分的相关性更高，尤其是COMET。然而，在评估含有零代词的日语句子翻译时，最佳指标仍存在困难。

本文介绍了一种多模态记忆模型（M3），通过结合视觉和文本信息，提升视频理解和描述生成能力。该模型在多个基准测试中表现优异，尤其在BLEU和METEOR评分上超越现有方法。此外，文章探讨了基于序列模型的多模态数据处理技术，提出了新的框架和方法，推动了多模态分类和视频叙事理解的研究。

该论文研究了不同粒度的MoE模型中的路由策略，通过任务级路由在数据集上进行实验，能够从大型稀疏模型中提取更小、可部署的子网络。实验结果表明，task-MOE在30种语言对上的表现平均比token-MoE高1.0 BLEU，并且能够保留所有收益。同时，当扩展到200种语言对时，task-MoE表现相近，并且提高了推理吞吐量2.6倍。

该研究使用LLM将长ASR转录分割成可独立翻译的片段，以提高翻译质量。LLM可适应包含ASR错误的转录，最佳的LLM在9个测试集中将平均BLEU提高了2.9个点。

BLEU是评估机器翻译质量的指标，通过比较机器翻译与人工翻译的n-gram重合度、加权和长度惩罚来计算翻译的准确性。

在 Image Caption 任务中，几种评价算法被用来度量预测结果（candidate caption）与 label （reference captions）的差异，这个系列主要介绍这几种评价标准。 符号定义 为图像 candidate caption…