一名OpenAI安全员工已辞职并发出警告
内容提要
OpenAI安全员工David Robinson辞职，并在《大西洋月刊》发文批评公司文化“已崩坏”。他认为行业问题根深蒂固，硅谷以“极度自信”和“永续冲刺”方式开发模型，忽视风险。他呼吁AI公司保持谦逊，借鉴核电站和机场的多层冗余与审慎规划，防止人为失误酿成灾难。此前已有多名AI安全研究员离职并公开警告风险。
延伸解读
从内部视角看AI安全文化
David Robinson曾在OpenAI负责撰写伴随每次重大模型发布的安全报告，他的辞职和公开批评提供了内部人士的视角。他认为行业文化已崩坏，问题根深蒂固，并非简单增加规则或监管就能解决。这种来自核心安全岗位的声音，比外部批评更值得关注，因为它直接揭示了安全实践与商业开发之间的张力。
硅谷开发模式与安全需求的冲突
Robinson指出，硅谷以“极度自信”和“永续冲刺”的方式开发模型，带着“不受阻碍的乐观”追求更大更好的模型，却忽视或低估潜在问题。这种模式与安全所需的审慎、冗余和长期规划存在根本冲突。他呼吁AI公司培养谦逊，借鉴核电站和机场的多层冗余与耗时规划，以防人为失误酿成灾难。
AI安全人才离职潮的警示
Robinson并非个例。此前已有Jacob Coxon从Anthropic离职并公开警告AI“可能在本十年末杀死我们所有人”，随后Google DeepMind的Robert O'Callahan、Bilal Chughtai、Josh Engels以及Anthropic的Joe Benton也相继离职。这些来自不同顶尖AI公司的安全研究人员接连发声，表明对AI风险的担忧在内部已形成一种趋势，而非孤立事件。
Q&A
David Robinson是谁？他为什么辞职？
David Robinson曾是OpenAI负责撰写安全报告的安全员工，他于本周辞职，并在《大西洋月刊》发表评论文章，批评公司文化“已崩坏”。
David Robinson认为AI行业存在哪些根本问题？
他认为行业文化从根本上崩坏，硅谷以“极度自信”和“永续冲刺”的方式开发模型，带着“不受阻碍的乐观”忽视或低估潜在问题，这比简单增加规则或监管更深层。
David Robinson对AI安全提出了什么具体建议？
他呼吁AI公司培养谦逊态度，借鉴核电站或繁忙机场的运作方式，采用多层冗余和审慎耗时的规划，确保偶发且不可避免的人为失误不会引发灾难。
除了David Robinson，还有哪些AI安全研究员离职并发出警告？
Jacob Coxon从Anthropic离职并公开表示AI“可能在这个十年结束前杀死我们所有人”；随后Google DeepMind的Robert O’Callahan、Bilal Chughtai、Josh Engels以及Anthropic的Joe Benton也相继离职。
David Robinson的警告与之前离职者的警告有何关联？
他是越来越多离开知名AI公司的研究员和安全工作者中的最新一位，此前已有Jacob Coxon、Robert O’Callahan、Bilal Chughtai、Josh Engels和Joe Benton等人离职并公开警告风险。
David Robinson认为AI公司应该向哪些行业学习安全措施？
他认为AI公司应像核电站或繁忙机场那样运行，采用多层冗余和审慎耗时的规划，以防止人为失误导致灾难。
