CMoralEval：中文大型语言模型的道德评估基准
内容提要
本文分析了大型语言模型在道德推理中的表现，发现其在不同文化和语言背景下存在显著不一致性。研究提出了新的评估基准，强调道德推理的重要性，并指出模型在责任和安全方面的改进空间。通过对比不同模型，揭示了它们在道德信念和偏见上的差异，呼吁进一步研究以解决这些问题。
延伸解读
道德评估的文化与语言维度
文章指出，预训练的英文语言模型虽能捕捉55个国家和地区的细粒度道德变异，却难以显著预测各国的道德规范。通过微调可改善跨国推断，但会牺牲准确度。这提示我们，道德推理并非普适，而是深植于特定文化和语言背景。评估模型时，需考虑文化知识纳入的挑战，避免以单一文化标准衡量全球模型。
安全与责任：评估的双重焦点
CValues基准通过十个场景的对抗性安全提示和八个领域的责任提示，衡量模型与人类价值观的一致性。研究发现，大部分中文大模型在安全方面表现良好，但在责任方面仍有较大改进空间。这表明，模型的安全对齐相对成熟，而责任对齐更为复杂，需要自动评估与人工评估相结合，以全面反映模型的价值一致性。
模糊情境下的模型不一致性
针对680个道德情景的调查显示，在明确情境中，多数模型选择与常识一致的行动；但在模棱两可的情境中，多数模型表达不确定性，且部分模型对提问方式敏感，闭源模型间一致性较高。这揭示了模型在道德判断上的脆弱性，尤其在信息不足时，其决策可能不稳定，影响实际应用中的可靠性。
伦理倾向与偏见：模型间的差异
比较分析发现，专有模型主要以功利主义为基础，而开源模型更符合价值伦理学；除Llama 2外，所有被调查模型都显示出明显的自由主义偏见。通过相似性激活引导技术，可可靠地引导模型的道德观达到不同伦理学派别。这提醒我们，已部署的大模型存在常被忽视的道德维度，需警惕其内置偏见对决策的影响。
Q&A
CMoralEval是什么？
CMoralEval是一个用于评估中文大型语言模型道德推理能力的基准，旨在衡量模型与人类价值观的一致性。
大型语言模型在道德推理中存在哪些问题？
大型语言模型在道德推理中表现出高度不一致性，尤其在模棱两可的情境下，模型的决策往往不稳定。
CValues评估基准的主要发现是什么？
CValues评估基准发现大多数中文大型语言模型在安全性方面表现良好，但在责任方面仍有较大改进空间。
语义图熵（SGE）是什么？
语义图熵（SGE）是一种新的信息熵测量方法，用于更好地关联模型决策与人类判断。
不同语言模型在道德信念上有什么差异？
研究显示，专有模型倾向于功利主义，而开源模型更符合价值伦理学，且大多数模型表现出自由主义偏见。
为什么需要关注大型语言模型的道德推理？
关注大型语言模型的道德推理是为了提高模型的可靠性和信任度，解决其在道德一致性方面的局限性。
