The Verge ·

民主党人敦促萨姆·阿尔特曼解释OpenAI的安全记录

💡 原文英文，约600词，阅读约需3分钟。

📝

内容提要

美国参议员伊丽莎白·沃伦和众议员洛里·特拉汉要求OpenAI解释举报者和安全审查的处理方式，以确定是否需要联邦干预。他们引用了几个OpenAI的安全程序受到质疑的例子，并要求提供关于新的AI安全热线的使用情况以及公司对报告的跟进的信息。他们还寻求关于OpenAI的利益冲突政策的信息。他们要求Altman在8月22日前回复。

🔎

延伸解读

立法者为何此时介入

沃伦和特拉汉致信奥特曼，直接原因是前员工投诉内部批评遭压制，且OpenAI的安全程序多次受质疑。他们要求说明举报人保护和利益冲突政策，以判断是否需要联邦干预。这封信并非孤立事件，此前已有参议员就安全实践提问，显示国会正加强对AI公司安全文化的监督。

安全争议与公司回应

信中引用多个实例：2022年未发布的GPT-4在印度版必应测试时未获安全委员会批准；2023年奥特曼短暂被解职，部分源于董事会担心商业化先于后果。有匿名消息称OpenAI匆忙通过安全测试，超级对齐团队解散，一名安全高管辞职。OpenAI发言人否认削减安全流程，但承认发布过程给团队带来压力。

OpenAI的主动举措与信件的关联

在立法者施压之际，OpenAI宣布与洛斯阿拉莫斯国家实验室合作探索AI在生物科学中的安全应用，并与美国AI安全研究所合作，承诺20%算力用于安全。奥特曼还称已取消员工非贬低条款和追回既得股权的规定，这正是沃伦和特拉汉关注的问题。这些举措可视为对安全质疑的回应，但能否满足立法者要求尚待观察。

后续关注点与潜在影响

沃伦和特拉汉要求奥特曼在8月22日前回复，提供新AI安全热线的使用和跟进情况、产品绕过安全协议的详细记录、允许跳过安全审查的情形，以及利益冲突政策。他们此前推动过扩大举报人保护的法案，此次问询可能为执法机构提供信号，后者已关注OpenAI可能违反反垄断和有害数据实践。

❓

Q&A

沃伦和特拉汉对OpenAI提出了哪些具体要求？

他们要求OpenAI解释举报者和安全审查的处理方式，并提供关于新AI安全热线的使用情况及报告跟进的信息。

OpenAI的安全程序为何受到质疑？

因为有报告称OpenAI在未获批准前测试了GPT-4，并且公司内部对安全问题的批评常被压制。

OpenAI如何回应关于安全测试匆忙的指控？

OpenAI发言人否认了这些指控，称公司没有在安全流程上妥协。

沃伦和特拉汉的信件反映了什么样的政策关注？

信件反映了他们对扩大举报者保护的政策关注，并可能影响执法机构对OpenAI的调查。

OpenAI与洛斯阿拉莫斯国家实验室的合作目的是什么？

合作旨在探索先进AI模型如何安全地辅助生物科学研究。

Altman需要在什么时间之前回复沃伦和特拉汉的请求？

Altman需在8月22日前回复这些请求。

🏷️