The Keyword
·
Anthropic、Google、Microsoft 和 OpenAI 宣布 Frontier Model Forum 执行董事及超过 1000 万美元的新 AI 安全基金
💡
原文英文，约1200词，阅读约需5分钟。
📝
内容提要
Google、Microsoft、OpenAI和Anthropic成立Frontier Model Forum，旨在确保全球前沿AI模型的安全和负责任的发展和使用。论坛成员承诺超过1000万美元的AI安全基金，以推进对最具能力的AI模型进行有效测试和评估的工具的研究。基金将支持独立研究人员，提高安全和安全标准，并为行业、政府和公民社会提供应对AI系统挑战的见解。
🎯
关键要点
- 谷歌、微软、OpenAI和Anthropic成立了前沿模型论坛，旨在确保全球前沿AI模型的安全和负责任的发展与使用。
- Chris Meserole被任命为前沿模型论坛的首任执行董事，负责推动AI安全研究和最佳实践。
- 论坛成员承诺超过1000万美元的AI安全基金，以支持独立研究人员和提高安全标准。
- AI安全基金将支持新模型评估和红队技术的发展，以应对前沿系统的潜在危险能力。
- 论坛正在建立共同的术语和定义，以促进AI安全和治理问题的讨论。
- 未来几个月，论坛将成立顾问委员会，指导其战略和优先事项，并发布新的技术发现和更新。
➡️
