3万道文化题实锤：八大AI模型为何齐刷刷“偏心”日本？
内容提要
研究显示，AI在回答文化问题时存在显著地域偏见，尤其偏爱日本和美国。通过分析八个大语言模型的三万道文化题，发现偏见主要源于微调阶段而非预训练。训练数据多的语言（如英语）回答多样性高，小语种则集中于少数国家。这种“日吹”现象反映了人类标注过程中的文化惯性，导致AI服务存在信息鸿沟。
延伸解读
语言决定AI的“国籍”
研究发现，AI在回答文化问题时，会优先根据提问语言来推断用户所在国家，并倾向于给出与该国相关的答案。例如，用英语提问时，AI常提及美国；用中文提问时，则偏向中国。这种“语言-国家”映射在英语、中文等大语种上表现明显，但在小语种上则失效，导致AI回答多样性骤降，甚至只重复少数几个国家。
微调阶段放大文化偏见
对比基座模型和微调后的模型，发现文化偏见主要源于监督微调（SFT）阶段，而非预训练。基座模型在提及各国时相对均衡，但经过SFT后，日本和美国的出现频率急剧上升，其他国家则被边缘化。这表明人类标注数据中的文化倾向被模型放大，强化学习对齐也无法完全纠正，只能略微缓解。
小语种用户面临信息鸿沟
训练数据的不平衡导致AI对不同语言用户的服务质量差异巨大。英语等资源丰富的语言，AI回答能提及150多个国家，而巽他语等低资源语言，多样性仅62个，且高度集中于本国和日本。这意味着小语种用户获得的文化信息极为有限，且被强势文化主导，形成严重的信息鸿沟。
Q&A
为什么AI在回答文化问题时总是偏爱日本？
研究发现，AI在回答文化问题时存在显著的地域偏见，尤其偏爱日本和美国。这种偏见主要源于微调阶段，而非预训练阶段。在微调过程中，人类标注员在撰写范例答案时，无意识地过度使用了日本、美国等“标杆国家”作为文化案例，模型学到了“提到文化问题就优先举日本和美国的例子”的行为模式。
AI的文化偏见是在预训练阶段还是微调阶段产生的？
研究团队对比了基座模型和指令微调版本，发现基座模型的文化分布相对均匀，而经过监督微调（SFT）后，日本和美国的出现频率急剧上升，其他国家的参考量下降。因此，文化偏见主要是在微调阶段被系统性放大和固化的，预训练阶段相对清白。
提问语言如何影响AI回答的文化指向？
AI会根据提问语言来推断用户所在国家，并倾向于回答该国的文化内容。例如，用英语提问时，AI常提及美国；用中文提问时，常提及中国。这种语言-国家映射的匹配度很高，最低的模型也有43%的回答指向提问语言对应的国家，最高的GPT达到78%。
为什么小语种用户使用AI时获得的文化信息更少？
因为训练数据中，小语种（如阿姆哈拉语、巽他语）的占比极低，导致AI对这些地区的文化常识几乎空白。因此，用小语种提问时，AI要么拒绝回答，要么反复提及少数几个国家，多样性极低。例如，用巽他语提问时，79%的回答指向印度尼西亚，整体多样性只有62个国家，而英语的多样性达到157个国家。
AI的文化偏见对用户有什么实际影响？
AI的文化偏见导致不同语言用户获得的信息宽度差异巨大。英语用户能获得全球文化导览，而小语种用户只能得到复读机式的敷衍回答，且经常被引导到日本和美国。这造成了服务体验上的信息鸿沟，小语种用户难以获得全面、多样的文化信息。
如何解决AI的文化偏见问题？
研究指出，文化偏见主要源于微调阶段，因此可以通过设计更合理的微调数据和评价标准来缓解。例如，可以设计“文化多样性奖励机制”，在模型提到小众国家时给予加分，鼓励模型提供更多元的文化参考。但研究人员也表示，目前这个问题尚未解决，只是被摆到了台面上。
