OpenAI
·
推进人工智能治理
💡
原文英文，约500词，阅读约需2分钟。
📝
内容提要
该公司承诺对模型和系统进行内外红队测试，包括滥用、社会风险和国家安全等领域。他们将制定专业化的红队测试制度，关注生物、网络、系统交互和社会风险等方面。此外，他们还承诺推进人工智能安全的持续研究。
🎯
关键要点
- 公司承诺对模型和系统进行内外红队测试，关注滥用、社会风险和国家安全等领域。
- 红队测试对于构建成功产品、确保公众对人工智能的信心和防范国家安全威胁至关重要。
- 公司将制定专业化的红队测试制度，关注生物、化学、放射性风险等方面。
- 公司承诺推进人工智能安全的持续研究，包括提高AI系统的可解释性和抵御滥用的能力。
- 公司将公开披露其红队测试和安全程序，增强透明度。
- 公司致力于在公司和政府之间分享关于信任和安全风险的信息，促进最佳实践。
- 公司将建立或加入论坛，以发展和采用共享标准和最佳实践，提升前沿AI安全。
➡️
