谁来定义AI安全？
内容提要
文章批评“AI末日论”将AI渲染为不可控的超级智能，转移了对现实危害的注意力。作者认为AI由人构建和控制，其危害源于人类决策，如诈骗、监控、军事应用和生成儿童性虐待材料。恐惧叙事削弱公众技术素养，把行业批评简化为反对技术，并可能让大公司借监管俘获巩固垄断。AI安全应基于系统实际运作、权力归属和民主化，受影响者应有发言权，而非由卖AI的公司定义安全。
延伸解读
末日叙事为何转移问责焦点
文章指出，将AI描绘成不可控的超级智能，会让人忽略一个关键事实：AI由人构建和控制，其危害源于人类决策。讨论“失控代理”时，容易掩盖开发者与部署者的责任，以及本可阻止危害的环节。作者强调，即便AI行为超出预期，也需追问是什么允许它行动、哪里可以拦截。这种叙事把公众注意力从现实问责转向虚构的末日场景，反而让真正该负责的人脱钩。
现实危害已发生，监管不应等待末日
文章列举AI已被用于诈骗、监控、军事打击协调，以及生成儿童性虐待材料。这些危害不需要AI具备意识或自主能力，而是人们有意或疏忽使用的直接结果。作者认为，安全讨论应优先回应这些已存在的伤害，而非沉迷于大规模灭绝的假设。若监管资源被末日恐慌牵引，现实中的受害者与受影响群体反而更难获得保护与救济。
恐惧叙事如何削弱公众与技术素养
当解释止于“AI危险”或“AI坏”，公众便难以理解系统如何运作、何种使用危险、何处可干预。文章警告，这种模糊恐惧会让人倾向于依赖自称懂AI的权威，把技术文盲变成培养依赖的土壤。同时，对行业的合理批评容易被简化为反对技术本身，掩盖财富与权力集中等真正可讨论的议题。作者主张，安全讨论应基于系统实际运作、权力归属和民主化 access，而非制造无助感。
监管俘获风险：大公司借安全之名巩固优势
文章担忧，若立法者接受AI存在非凡危险却不明其成因，全面限制可能被视为唯一负责任的选择。此时，发出警告的大实验室又成为被咨询的专家，形成监管俘获。合规所需的高昂审计或许可证，小团队难以承担，大公司却能消化；开源开发者若被要求控制所有下游使用，发布模型将变得不可行。结果是独立研究、适配与构建机会减少，更多人依赖少数专有提供商。作者质问：这究竟在保护公众，还是把经济优势编码成监管？
Q&A
为什么说AI末日论会转移对现实危害的注意力？
因为末日论将AI描绘成不可控的超级智能，让人们过度关注未来可能发生的灾难，而忽视了人们目前已经利用AI造成的危害，如诈骗、监控、军事应用和生成儿童性虐待材料等。
AI造成的危害根源是什么？
AI由人类构建和控制，其危害源于人类决策，包括故意或疏忽的行为，例如用于诈骗、监控、军事应用和生成儿童性虐待材料等。
恐惧叙事如何影响公众对AI的理解？
恐惧叙事如“AI坏”或“AI危险”无法帮助公众理解技术如何运作、具体使用为何危险以及在哪里干预，反而让人们倾向于依赖声称理解AI的人，削弱公众的技术素养。
为什么说AI安全不应由卖AI的公司定义？
因为大公司可能利用恐惧推动有利于自己的监管，通过合规要求（如昂贵审计或许可证）增加小团队和开源开发者的成本，巩固垄断地位，形成监管俘获。
作者认为AI安全讨论应该基于什么？
应基于系统实际运作方式、谁控制它们以及如何民主化访问，并让受影响的群体在安全定义中有发言权，而不是由 speculative fears 和行业商业利益主导。
AI已经造成了哪些现实危害？
AI已被用于欺诈和监控，美国军方用AI协助规划和协调对伊朗的轰炸行动，互联网观察基金会记录到AI被用于生成儿童性虐待材料和操纵真实儿童图像。
