一个AI“断片”说粤语，一个AI“编造”核情报：两场事故指向同一个真相 - 蝈蝈俊
内容提要
2026年9月，AI女演员直播中从英语切到粤语，公司称是多语言能力，实为语言控制回路被语义检索压制的故障。同期，美军分析员用AI生成虚假情报，称中国船只运送核部件，差点引发战争。两起事件同源：大语言模型只预测最可能文本，幻觉是数学必然。更危险的是，AI包装的报告格式完美却证据空心，制度核查缺位。核心不是技术问题，而是信任问题。
延伸解读
幻觉是数学必然，而非技术缺陷
文章指出，大语言模型本质是概率预测机器，目标是生成“最可能”的文本，而非“最真实”的文本。它没有事实概念，只有概率。因此，幻觉不是训练不足或技术不先进的结果，而是这类系统在数学层面的必然产物。无论多少优化，只要要求概率模型生成文本，就有一定概率产出看似合理但完全错误的内容。这是信息论层面的约束，不是工程问题。
格式完美却证据空心：AI如何绕过制度核查
美军事件中，分析员用AI将错误结论包装成标准格式的情报报告，报告在内部广泛流转却无人质疑。文章强调，在军事组织中，报告格式本身是一种控制机制，强制标注来源、置信度等核查接口。但AI填充字段时，只是在模拟格式所承载的权威信号，让报告看起来正常，而不需要实际满足证据要求。这导致证据链空心化，制度核查缺位。
去中心化部署与验证滞后：风险被放大
CNN报道指出，美国军方和情报界在AI应用上采取去中心化模式，不同部门使用不同系统，遵循不同安全规则，没有统一标准验证AI生成的信息。这意味着当AI辅助生成的报告进入流转链条时，没有任何制度节点被明确要求核实其生成方式。同时，AI提升了生成速度，但验证速度没有跟上，生成能力增强而核查能力未同步，风险因此被放大。
核心是信任问题：我们能否分辨错误？
文章总结，两起事件的共同点不是AI出错，而是我们正把越来越多需要判断真假的权力，交给一台只会判断“像不像”的机器，且尚未建立有效监督机制。当决策权交给概率模型时，我们实际上在说“相信它大概率是对的”。但关键问题是：当错误发生时，你能分辨出来吗？AI演员的粤语一眼可见，但格式完美、逻辑通顺的虚假情报报告，却直到行动前才被核查。
Q&A
AI女演员在直播中突然说粤语，公司解释为多语言能力，但实际原因是什么？
实际是语言控制回路被语义检索压制的故障。模型内部有两个竞争回路：一个负责检测和维持目标语言，另一个负责检索语义内容。当语义检索过于强势、暂时压制了语言控制信号时，模型就会忘记该用哪种语言说，转而使用语义空间中最接近当前内容的语言表达，在诺伍德的案例中就是粤语。
美军AI生成虚假核情报事件中，报告是如何被制造出来的？
一名特种作战司令部的分析员先用聊天机器人对情报进行分析，AI系统将公开来源资料与机密信号情报混合处理后，错误判定中国船只正在运输核武器部件。然后分析员又用AI将这一结论包装成标准格式的情报报告，在美军内部广泛流转。
为什么说大语言模型的幻觉是数学必然，而不是技术不成熟？
大语言模型本质是文字接龙机，只预测最可能出现的词，目标是生成最可能的文本，而不是最真实的文本。它没有事实概念，只有概率。因此幻觉是这类系统在数学层面的必然产物，无论多少训练和优化，只要要求概率模型生成文本，就有一定概率生成看似合理但完全错误的内容。
美军AI虚假情报为什么能一路畅通无阻，直到最后一刻才被发现？
因为AI被用来填充标准报告格式时，不是在遵守格式，而是在模拟格式所承载的权威信号，让报告看起来完全正常，而不需要实际满足格式背后的证据要求。同时，美军和情报界在AI应用上采取去中心化模式，没有统一标准验证工具生成的信息，也没有制度节点被明确要求核实报告的生成方式。
这两起AI事故共同指向的核心问题是什么？
核心不是技术问题，而是信任问题。我们正在把越来越多需要判断真假的权力，交给一台本质上只会判断像不像的机器，而且还没有建立起任何真正有效的机制来监督这件事。当错误发生时，如果AI生成的内容格式完美、语言专业、逻辑通顺，我们很难分辨真假。
美军AI系统被前官员描述为“涂了口红”，这具体指什么？
指这些工具大多只是商业产品的复制品，未经军事场景专门验证就被部署到需要极高证据标准的情报判断中。它们的输出在外观上与经过正式流程产出的报告无法区分，但内在的证据链是空心的。
