美媒:OpenAI删除了禁止其技术被用于军事用途的条款
内容提要
OpenAI修改使用条款,删除禁止军事用途规定。专家担心人工智能应用于军事可能加剧平民伤亡。美军已开始使用OpenAI技术。
延伸解读
条款修改的实质:从明确禁止到模糊原则
OpenAI将原条款中明确禁止“军事与战争”用途的表述删除,替换为“不伤害他人”等宽泛原则。发言人虽强调武器开发仍被禁止,但拒绝说明是否涵盖所有军事用途。这种措辞变化降低了条款的明确性,使军事应用的法律边界变得模糊,执行时更依赖OpenAI自身的解释。
专家担忧:技术缺陷可能加剧平民伤亡
安全专家赫拉夫指出,大语言模型普遍存在“幻觉”和“偏见”,准确性不足。若将其用于军事与战争场景,可能因错误输出导致更严重的平民伤亡。这一风险并非理论推测,而是基于当前AI技术局限性的现实判断,值得读者关注技术应用与伦理的平衡。
商业与军事的关联:微软角色引发质疑
OpenAI主要投资者微软是美国军方主要供应商之一。专家认为,OpenAI弱化反对军事应用的立场,可能与其商业利益相关。尽管OpenAI产品尚未直接操控武器,但美军已将其用于编写代码、处理采购订单和情报分析等辅助工作,这显示技术已间接介入军事链条。
Q&A
OpenAI最近修改使用条款,具体删除了哪些限制?
OpenAI删除了使用条款中禁止将AI模型用于军事用途的条文,特别是删除了禁止用于“很可能造成人员伤亡的用途”(如武器研发和军事与战争)以及“军事”这一关键限制性词汇。
OpenAI为什么删除禁止军事用途的条款?官方解释是什么?
OpenAI发言人尼克·菲利克斯表示,调整使用条款是为了设立一套易于记忆和应用的通用原则,例如“不伤害他人”这样的规则宽泛且容易理解,可以适用于很多语境,并特别列举了武器作为例子。但他拒绝说明“禁止伤害他人”是否包括所有军事用途。
专家对OpenAI允许军事用途有哪些担忧?
专家担心AI在军事中的应用可能加剧平民伤亡,因为大语言模型普遍存在“幻觉”和“偏见”问题,缺乏足够的准确性。此外,新条款措辞含糊,引发外界对OpenAI如何执行新条款的疑问,有专家认为OpenAI似乎在悄悄弱化其反对军事应用的立场。
美国军方目前是否已经在使用OpenAI的技术?用于哪些方面?
是的,美国军方已经开始使用OpenAI的技术,应用于协助编写代码、处理武器采购订单和情报分析等工作。尽管OpenAI工具没有被直接用于杀人,但它们已经被用于协助这样的工作。
OpenAI与微软的关系如何影响其军事用途立场?
OpenAI的主要投资者微软是美国军方的主要供应商之一,一些专家因此认为OpenAI似乎在悄悄弱化其反对军事应用的立场。
修改后的条款中,OpenAI仍然禁止哪些行为?
修改后的条款中,OpenAI仍然禁止“使用公司服务伤害自己或他人”,并明确表示禁止“AI开发或操纵武器”。发言人还表示,任何将技术用于研发或使用武器、伤害他人或破坏财产、在未经授权的情况下破坏任何服务或系统安全的行为,都是不被允许的。