人工智能在军事中的应用不断加深，自主武器的发展引发广泛关注。尽管尚未实现完全自主的致命武器，但相关技术正在演进。各国对自主武器的监管进展缓慢，缺乏统一的国际定义，导致讨论常常无果而终。AI的快速发展可能使人类在决策中逐渐被排除，带来伦理和法律上的重大挑战。

参议员亚当·希夫正在推动一项法案，确保在自主武器和大规模监控问题上由人类做出最终决定。该法案旨在限制国防部使用人工智能进行国内监控，并防止完全自主武器的使用。希夫强调，涉及人命的技术应由人类操控，而非算法。他希望能获得两党支持，以保护人权和国家安全。

Anthropic首席执行官达里奥·阿莫代伊正在与美国国防部谈判，以改善与军方的关系，防止被视为“供应链风险”。谈判因阿莫代伊拒绝提供无限制的AI访问而破裂。他批评OpenAI与国防部的协议，并指出与政府关系恶化是因为未向特朗普捐款。国防部要求对技术的完全访问，而Anthropic则拒绝妥协，强调不允许大规模监控和致命自主武器。

2026年2月，AI公司Anthropic拒绝了五角大楼的2亿美元合同续约，坚守不用于自主武器和大规模监控的原则。这一决定重新定义了AI治理和企业责任的界限，提出了私人公司对政府技术使用设定道德限制的重大问题。

OpenAI与五角大楼达成协议，允许其技术用于合法用途，但引发了对大规模监控和自主武器使用的担忧。尽管OpenAI声称遵循安全原则，批评者认为该协议可能导致监控美国公民。此外，OpenAI的协议未明确禁止无人武器的使用，引发外界对其合规性的质疑。

Anthropic与五角大楼的谈判因“任何合法用途”条款而紧张，该条款可能允许军方用于大规模监控和致命武器。五角大楼威胁将Anthropic列为“供应链风险”，影响其与国防部的2亿美元合同。Anthropic强调不参与自主武器和国内监控，重视AI的责任和道德使用。

人工智能的快速发展带来了伦理挑战，如偏见、隐私、就业替代、责任和自主武器的道德问题。解决这些问题需要合作，制定伦理指南和行业标准，以确保AI技术的安全与人类价值观相符。