The Verge ·

前OpenAI员工称AI安全领域的举报者保护措施不足

💡 原文英文，约400词，阅读约需2分钟。

📝

内容提要

前OpenAI员工发出公开信，警告AI公司压制批评和监督，呼吁公开批评原则。信中提出的原则包括避免制定非贬低条款，提供匿名报告问题的途径，允许员工向公众提出关切，并不对举报者采取报复行动。信中签署者声称当前的举报者保护不足够。

🔎

延伸解读

举报者保护不足的根源

公开信指出，现行举报者保护主要针对非法活动，而AI安全领域的许多担忧（如不平等加剧、操纵和错误信息）往往处于未受监管的灰色地带。因此，员工即使出于善意提出关切，也可能因缺乏法律保护而面临报复风险。签署者称，这种保护不足使得他们不敢发声，进一步加剧了AI公司内部监督的缺失。

公开批评原则的具体诉求

公开信呼吁AI公司承诺四项原则：避免制定和执行非贬低条款、提供可验证的匿名报告渠道、允许现任和前任员工向公众表达关切、以及不对举报者进行报复。这些原则旨在弥补法律保护的空白，通过企业自律来保障员工监督和公众知情权，从而在缺乏政府监管的情况下推动AI安全。

OpenAI内部安全文化的变化

文章提到，OpenAI最近解散了专注于AI长期风险的“Superalignment”团队，导致多名研究人员辞职，包括联合创始人Ilya Sutskever。前研究员Jan Leike表示，OpenAI的安全文化和流程已让位于光鲜的产品。这一事件与公开信相呼应，表明AI公司在商业压力下可能削弱对安全问题的关注，进而压制内部批评。

❓

Q&A

前OpenAI员工在公开信中提出了哪些主要原则？

公开信中提出的主要原则包括避免制定非贬低条款、提供匿名报告问题的途径、允许员工向公众提出关切，以及不对举报者采取报复行动。

前OpenAI员工对当前举报者保护措施有何看法？

他们认为当前的举报者保护措施不足，主要关注非法活动，而忽视了未受监管的担忧。

公开信中提到的AI潜在风险有哪些？

信中提到的AI潜在风险包括不平等加剧、操控和错误信息，以及人类灭绝的可能性。

OpenAI最近发生了什么事件导致多名研究人员辞职？

OpenAI解散了专注于AI长期风险的“Superalignment”团队，导致多名研究人员辞职。

公开信的签署者对AI公司的监督和批评有何看法？

签署者警告AI公司压制批评和监督，呼吁遵循公开批评原则。

前OpenAI员工对AI安全文化的现状有何评价？

前研究员表示，OpenAI的安全文化和流程被光鲜产品所取代，安全问题被忽视。

🏷️