揭示 NLG 评估器的致命弱点：由大型语言模型驱动的统一对抗框架
内容提要
本文提出了一种新的自然语言处理模型评估框架，强调研究人员的对抗角色，以促进错误分析。介绍了多种评估方法，包括基于多智能体的DEBATE框架和ADVMT模型，探讨了自然语言生成的评估指标及其优缺点，并呼吁改进评估目标和方法，以应对当前挑战。
延伸解读
对抗评估框架的核心思路
文章提出的抽象评估框架，通过明确研究人员之间的对抗角色，来定义不同角色在评估中的贡献，并鼓励更早的错误分析。这一框架可以多种方式实例化，模拟熟悉的内部和外部评估以及一些新的评估。其核心在于将对抗性思维引入评估流程，从而更系统地发现模型弱点。
多智能体辩论评估的进展
DEBATE框架基于多智能体评分系统，通过引入反对者概念，解决了LLM智能体回答中的偏见问题，在NLG评估中显著超越现有方法。这表明多智能体协作与对抗机制能提升评估的客观性，为自动化评估提供了新方向。
对抗攻击揭示的模型漏洞
LLM-Attack利用LLM生成有效且自然的对抗性示例，在人类和GPT-4评估中优于基线，能保留语义、语法且人类难以察觉。Adversarial GLUE则系统应用14种文本对抗攻击，揭示现代大规模语言模型面对对抗攻击的严重漏洞，呼吁发展更鲁棒的语言模型。
评估指标与目标的再思考
研究发现词汇重叠是NLG的较好评估指标，但人工评估与自动化评估在排名上存在较大差异，因此呼吁重新考虑评估目标。同时，基于LLM的评估方法虽提供新途径，但需批判性评估其优势与局限，推动更公平、先进的评估技术。
Q&A
什么是DEBATE框架，它解决了什么问题？
DEBATE框架是一种基于多智能体的自然语言生成评估框架，通过引入反对者的概念，解决了LLM智能体回答中的偏见问题。
ADVMT模型的主要特点是什么？
ADVMT模型利用神经网络指标评估开放域对话系统，显示与人工评估的相关性高于现有指标。
词汇重叠在自然语言生成评估中有什么重要性？
研究发现词汇重叠是自然语言生成的较好评估指标，呼吁重新考虑评估目标。
LLM-Attack的目的是什么？
LLM-Attack旨在生成有效且自然的对抗性示例，实验结果显示其优于基线模型。
AdvGLUE是什么，它揭示了什么问题？
AdvGLUE是一个新的多任务基准，揭示了现代大规模语言模型面对对抗攻击的漏洞，呼吁发展新型鲁棒性语言模型。
本文对自然语言生成评估的未来研究方向有什么建议？
文章讨论了人机合作的NLG评估及未来研究方向，呼吁改进评估目标和方法以应对当前挑战。
