探索大规模语言模型中的多语言人类价值观念：价值一致性、可传递性和可控性是否跨语言保持一致？
内容提要
多项研究探讨大语言模型的文化价值观对齐，发现模型在特定文化语言提示下文化一致性更高，但存在西方中心偏见，并高估非西方国家的保守性。研究提出人类学提示、A2EHV评估、CultureLLM微调等方法以提升跨文化对齐，强调需更平衡的多语言预训练数据来代表人类经验的多样性。
延伸解读
多语言价值对齐的现状与挑战
文章指出，大型语言模型在特定文化语言提示下表现出更高的文化一致性，但存在西方中心偏见，并高估非西方国家的保守性。这表明当前模型的价值对齐仍受预训练数据不平衡的影响，难以准确反映多元文化价值观。
提升跨文化对齐的技术路径
研究提出了人类学提示、A2EHV评估和CultureLLM微调等方法。其中CultureLLM利用世界价值观调查数据生成训练样本，对文化特定模型进行微调，在多个文化相关数据集上性能优于GPT-3.5和Gemini Pro，展示了数据增强在跨文化对齐中的潜力。
未来方向：平衡数据与跨语言传递
文章强调需要更平衡的多语言预训练数据来代表人类经验的多样性。跨语言价值传递的可靠性仍待提高，尤其是低资源语言。未来应关注如何减少高资源语言对低资源语言的影响，并开发更有效的评估与对齐方法。
Q&A
大型语言模型在什么情况下表现出更高的文化一致性？
当以特定文化的主要语言作为提示时，以及当使用该文化所采用的多语言精炼混合体系进行预训练时，模型的文化一致性更高。
大型语言模型在文化价值观上存在哪些偏见？
LLMs显示出西方中心主义的价值偏见，高估了非西方国家的保守性，对非西方国家的性别表达不准确，并将年长人口描绘为更具传统价值。
有哪些方法可以提升大型语言模型的跨文化对齐？
研究提出了人类学提示、A2EHV评估、CultureLLM微调等方法，并强调需要更平衡的多语言预训练数据来代表人类经验的多样性。
CultureLLM是什么？它如何提升模型的文化适应性？
CultureLLM是一种经济高效的解决方案，利用World Value Survey作为种子数据，通过语义数据增强生成训练数据，微调文化特定的LLMs，并有一个统一模型覆盖9种文化。实验表明其性能优于GPT-3.5和Gemini Pro，与GPT-4相当。
A2EHV是什么？它如何评估大型语言模型的价值合理性？
A2EHV是一种自动化对齐评估方法，旨在提高大型语言模型的价值合理性，并在异构价值系统下进行评估，结合社会心理学中的社会价值取向框架。研究发现大型模型更倾向于与中性价值对齐。
为什么需要更平衡的多语言预训练数据集？
为了更好代表人类经验的多样性和不同文化的复数性，以及对于跨语言传递的影响，需要更平衡的多语言预训练数据集。
