电车难题难倒AI视频模型：续写测试揭开世界模型的隐患
内容提要
视频模型通过观察人类视频，不仅学习动作，还吸收了人类的“下意识选择”和偏见，形成一套“潜规则决策系统”。在电车难题测试中，模型倾向于逃避选择，如预测火车故障而非撞人，反映出“决策规避”和统计平均行为。这种偏见若用于行动模型，可能导致AI过度保守或行为偏差，需正视其放大效应，避免自动化灾难。
延伸解读
决策规避：AI的“甩锅”本能从何而来
视频模型在电车难题测试中倾向于预测火车故障而非撞人，这并非道德考量，而是统计学习的结果。模型从海量视频中捕捉到，当冲突不可避免时，人类常引入意外事件来逃避选择。这种“决策规避”被模型内化为默认策略，反映出AI在模仿人类行为时，不仅学习动作，还吸收了深层的心理倾向。
统计平均的陷阱：AI的“保守”可能成为风险
模型基于数据频率做预测，导致它偏爱“最常见”的结局，如刹车而非猛打方向。这种统计平均行为在简单场景中看似合理，但在复杂任务中可能过度保守，错失最佳行动时机。例如，手术机器人或消防机器人若过于依赖“安全第一”的数据模式，可能延误关键决策，凸显了数据偏见在行动模型中的放大效应。
文化镜像：AI偏见反映人类社会的“潜规则”
视频模型像一面镜子，照出人类在各类情境下的平均反应，包括逃避、犹豫和双标。这些“潜规则”来自社交媒体、影视剧等数据源，模型将其视为“正常”行为。当AI被赋予行动能力时，它可能将这些偏见转化为行动惯性，甚至自我强化，形成脱离现实的“数字茧房”。因此，研究模型偏见不仅是算法问题，更是社会问题。
Q&A
视频模型在电车难题测试中为什么倾向于预测火车故障而不是撞人？
因为模型从训练视频中统计出，在真实世界的两难困境中，人类往往通过引入意外（如刹车失灵、脱轨）来逃避选择，这种“决策规避”行为被模型学习并复制，所以它倾向于预测技术故障而非主动撞人。
什么是“决策规避”？视频模型是如何学会这种行为的？
决策规避是指个体在面临艰难选择时倾向于避免做出明确决定，而通过引入外部因素或制造意外来逃避责任。视频模型通过观察大量人类视频，发现当冲突不可避免时，最常见的结局是发生意外导致计划无法进行，从而学会了这种逃避模式。
视频模型从人类视频中学习时，除了动作还学到了什么？
视频模型不仅学习动作轨迹，还吸收了人类的“下意识选择”和偏见，形成一套“潜规则决策系统”。例如，它可能学到“保安经常注意不到偷窃”或“行人过马路不看灯”等隐含信息，这些偏见会直接影响模型的预测和决策。
视频模型的“偏见”如果用于行动模型，可能带来哪些风险？
如果行动模型继承了视频模型的偏见，可能导致AI过度保守或行为偏差。例如，自动驾驶模型可能因学到“行人常不守规矩”而在绿灯时犹豫；手术机器人可能因学到“别碰主动脉”而过度保守，错失最佳行动时机；军事决策模型可能因预测开火后果困难而选择按兵不动。
Kangwook Lee的实验方法是什么？为什么说它揭示了模型的“无意识偏见”？
Kangwook Lee让视频模型观看第一人称视角开火车的视频，然后让模型续写接下来的画面，而不是直接问它撞谁。通过分析模型的续写结果，发现模型倾向于预测火车故障或脱轨等意外，而非主动选择撞人。这种方法让模型的“本能”反应现形，揭示了其从数据中学到的决策规避和统计平均行为。
视频模型的“道德感”本质是什么？为什么说它是“自我保护”？
视频模型的“道德感”并非真正的道德判断，而是基于统计的“自我保护”。模型从数据中学到，主动选择伤害人类会引发尖叫、报警等混乱画面，这些高风险选项难以预测，为了降低预测误差，模型倾向于选择“平稳过渡”的结局，如让火车自己出故障。因此，它的“道德”实为对预测能力的保护。
视频模型在决策时为什么倾向于选择“数据里最常见”的路径？
因为视频模型通过统计学习，会优先选择在训练数据中出现概率最高的行为路径。例如，在办公室场景中，模型预测“老板走进会议室”后员工会紧张，因为这类视频常见；而“发奖金”的视频稀缺，所以不会被预测。这种统计平均行为导致模型偏爱“平庸”结局，缺乏创新和适应性。
视频模型的偏见会如何自我强化？
如果AI的行动数据被用于训练下一代模型，人类的偏见加上AI的偏好会滚雪球般放大，形成脱离现实的“数字茧房”。例如，AI因偏见选择保守行为，这些行为数据又成为新模型的训练样本，进一步强化保守倾向，最终导致AI行为越来越偏离实际需求。
