过度依赖AI是导致伊朗学校遭导弹袭击的原因之一

过度依赖AI是导致伊朗学校遭导弹袭击的原因之一

💡 原文中文,约2400字,阅读约需6分钟。
📝

内容提要

2026年2月,美军导弹击中伊朗米纳卜一所小学,致逾150人死亡。调查显示,美军过度依赖Palantir的Maven智能系统,误将其当作情报审核工具,但该系统不负责识别过时数据;同时平民伤害缓解团队从近200人裁至不足40人,中东团队仅剩1人,未审查该目标。过时标记、情报不足与审核压缩共同导致误击,联合国认定可能构成战争罪。

🔎

延伸解读

AI辅助与替代的边界

Maven系统被美军人员误当作能自动发现情报漏洞的审核工具,但Palantir明确表示其不负责识别底层数据缺陷。这揭示了AI应用中的常见误区:将辅助决策的工具用于替代人类判断。在军事目标审核中,这种角色错位直接导致过时标记未被察觉,最终酿成悲剧。读者应警惕,任何AI系统都有其设计边界,明确其能力范围是安全使用的前提。

组织削减如何放大技术风险

平民伤害缓解团队从近200人裁至不足40人,中东团队仅剩1人,导致米纳卜目标未经任何CHM成员审查。指挥官曾警告削减会增加误识别风险,但反对意见被否决。这表明,技术系统的可靠性高度依赖配套的人力审核机制。当审核环节被压缩甚至取消,即使AI工具本身无误,整体流程的容错能力也会急剧下降。组织决策对技术风险的影响不容忽视。

过时数据与审核压缩的叠加效应

米纳卜地点早在2017年就已与军事基地分离,但主数据库仍标记为IRGC设施,且2019年的修正记录未连通。同时,战前目标审核从数周压缩到几天,超过1000个目标需在24小时内完成。过时情报与极限时间压力叠加,使法律审查在错误前提下运行。这提醒我们,数据更新机制和合理的时间缓冲是防止误判的关键,尤其在高压决策环境中。

事后补救与问责困境

袭击后,Palantir为Maven新增了重新审查底层情报的功能,并已发现异常。联合国认定可能构成战争罪,美国众议院民主党人致信质询,但五角大楼以调查进行中为由未公开回应。这反映出,技术补救虽有必要,却无法挽回生命;而问责过程往往漫长且不透明。读者应关注,AI军事应用的事后追责机制是否健全,以及如何避免类似悲剧重演。

Q&A

2026年美军导弹袭击伊朗米纳卜小学造成了什么后果?

2026年2月28日,美军两枚战斧导弹击中伊朗米纳卜的沙拉杰·塔耶贝小学,超过150人死亡,其中至少123名儿童。联合国伊朗事实调查团在9月认定,有合理理由认为此次打击可能构成战争罪。

Maven智能系统在美军目标审核中扮演了什么角色?为什么它被误用?

Maven由Palantir开发,是美军中央司令部的核心指挥控制平台,负责融合150多种数据源供指挥官决策。但一些中央司令部人员误以为它会自动标记过时信息或情报矛盾,把它当成了审核员。Palantir明确表示,公司不对底层数据负责,也不负责识别情报缺陷。Maven的任务是整理和呈现数据,而非判断数据是否过期。

平民伤害缓解团队被削减到什么程度?这带来了什么影响?

国防部长赫格塞思不顾指挥官反对,将平民伤害缓解团队从近200人削减到不到40人,中央司令部的中东团队从10人减到1人。在米纳卜打击之前,没有任何CHM团队成员审查过该目标。削减导致目标误识别风险增加、战场感知能力下降。

米纳卜学校被误标为军事设施的原因是什么?

该地点早在美国军事情报数据库中被标记为伊斯兰革命卫队设施,但标记从未更新。商业卫星图像显示,学校围墙和入口早在2017年就已将学校与军事基地分开,2018年图像显示有彩绘墙壁、足球场等。一名情报分析师在2019年注意到变化,但记录存在与主数据库不连通的系统中,主数据库继续使用过时标记,Maven将其当作有效情报处理。

为什么法律审查没有阻止这次误击?

法律审查流程本身没有出错,但喂给流程的信息是错误的。当所有人都相信一个过时的标记是准确的,法律审查就会在错误前提下运行,并得出看似合法的结论。中央司令部资深指挥官问的三个问题——目标合法吗?情报充分吗?有没有采取合理措施减少平民伤害?——答案都是“是”,因为整个杀伤链对米纳卜是IRGC设施有“高度信心”。

米纳卜事件后,Palantir和联合国分别采取了什么行动或表态?

Palantir给Maven增加了新功能:重新审查底层情报,识别会让目标不合格的因素,标记人工审查可能遗漏的不一致和不准确之处。据知情人士说,该功能已发现一些异常。联合国伊朗事实调查团在9月认定,有合理理由认为美军2月28日的两次打击(包括米纳卜学校)构成战争罪。美军方拒绝置评。

🏷️

标签

➡️

继续阅读