OpenAI
·
OpenAI 红队网络
💡
原文英文，约300词，阅读约需2分钟。
📝
内容提要
OpenAI推出了红队网络，这是一个由可信和经验丰富的专家组成的社区，旨在帮助OpenAI的风险评估和缓解工作。该网络将与个人专家、研究机构和民间社会组织合作，使OpenAI的模型更加安全。网络成员将根据其专业知识被召集，以帮助在模型和产品开发生命周期的各个阶段进行红队测试。目标是实现更多样化和持续的输入，使红队测试成为一个更迭的过程。
🎯
关键要点
-
OpenAI推出了红队网络，旨在帮助风险评估和缓解工作。
-
红队网络由可信和经验丰富的专家组成，合作对象包括个人专家、研究机构和民间社会组织。
-
该网络的目标是使OpenAI的模型更加安全，并实现多样化和持续的输入。
-
红队测试将成为一个更迭的过程，成员根据专业知识在模型和产品开发的各个阶段进行测试。
-
成员的参与时间将根据个人情况确定，可能每年只需贡献5-10小时。
-
除了OpenAI委托的红队活动，成员还可以交流一般的红队实践和发现。
-
该网络与其他AI安全合作机会相辅相成，包括研究者访问计划和开源评估。
➡️
