Diver: 使用基于跨度级互信息验证的大型语言模型解码
内容提要
本文探讨了大型语言模型（LLMs）的个性化定制与多语言支持，分析了其在不同语言查询中的一致性和质量。研究提出了LDFighter机制以减轻语言歧视，并引入风险评估框架和DwD方法以降低决策风险。此外，提出了ProbDiff自我评估方法，展示了LLMs在多任务检测中的潜力，强调其在处理模糊输入时的有效性。
延伸解读
语言歧视的实证发现
文章通过AdvBench和NQ数据集对四个LLMs的分析显示，英语、法语、俄语和西班牙语的查询比孟加拉语、格鲁吉亚语、尼泊尔语和迈蒂利语的查询表现出更强的人类对齐能力，平均有1.04%的有害查询成功越狱。同时，英语、丹麦语、捷克语和斯洛文尼亚语的查询倾向于产生更高质量的响应，平均F1得分为0.1494。这些数据揭示了LLMs在多语言支持中存在的语言歧视问题，即不同语言下的响应一致性和质量存在显著差异。
LDFighter机制的有效性
针对语言歧视问题，文章提出了基于相似度的投票机制LDFighter。评估结果显示，LDFighter不仅显著降低了成功越狱的概率，还平均改善了响应质量。这表明该机制能够有效减轻语言歧视，确保不同语言使用者获得一致的服务。这一发现对于提升LLMs在多语言环境下的公平性和安全性具有重要意义。
风险评估与DwD方法
文章定义并形式化了决策风险和综合风险两种风险类型，并提出了风险中心化评估框架和四个新指标。基于此，提出了DwD风险调整校准方法，帮助LLMs在整体自然语言推理架构中降低这些风险。实验证明了评估框架的实用性以及DwD在降低决策风险和综合风险方面的功效，为LLMs的风险管理提供了新思路。
ProbDiff自我评估方法
ProbDiff是一种新的自我评估方法，利用被测试的语言模型计算初始回答与修改版本之间的概率差异，避免了额外评估模型的需要，也不依赖于外部的专有模型如GPT-4。研究结果表明，ProbDiff在翻译、摘要生成、小红书博客写作等自然语言生成任务以及AlignBench、MT-Bench和AlpacaEval等评估基准上取得了与基于GPT-4的评估相当的结果，展示了其高效性和适用性。
Q&A
DITTO 方法是如何实现语言模型的个性定制的？
DITTO 方法通过设置少量示范，将语言模型输出与用户行为对齐，从而有效进行个性定制。
大型语言模型在多语言支持方面存在哪些问题？
大型语言模型可能表现出语言歧视，导致在不同语言中对相同任务的响应一致性较差。
LDFighter 机制的作用是什么？
LDFighter 机制旨在减轻语言歧视，确保不同语言用户获得一致的服务和响应质量。
如何评估大型语言模型的决策风险？
本文提出了风险评估框架和四个新指标，以评估和降低大型语言模型的决策风险和综合风险。
ProbDiff 自我评估方法的优势是什么？
ProbDiff 方法通过计算初始回答与修改版本之间的概率差异，避免了额外评估模型的需要，且效果与 GPT-4 相当。
大型语言模型如何处理模糊输入？
研究提出了一种方法，使大型语言模型在面对模糊输入时仍能有效处理，并在明确问题上保持竞争力。
