深化与英国人工智能安全研究所的合作
💡
原文英文，约800词，阅读约需3分钟。
📝
内容提要
我们与英国人工智能安全研究所（AISI）签署新的谅解备忘录，扩大合作，专注于基础安全研究，确保人工智能的安全发展。双方将共享模型和数据，开展联合研究，重点关注AI推理监控、社会情感影响和经济系统评估，以推动AI安全，减轻潜在风险。
🎯
关键要点
- 与英国人工智能安全研究所（AISI）签署新的谅解备忘录，扩大合作，专注于基础安全研究。
- 合作旨在确保人工智能的安全发展，造福全人类。
- 双方将共享模型、数据和想法，加速研究进展。
- 联合报告和出版物将与研究社区分享研究成果。
- 重点研究领域包括监控AI推理过程、理解社会和情感影响、评估经济系统。
- 监控AI推理过程有助于理解AI系统如何产生答案，补充可解释性研究。
- 研究社会和情感影响，探讨AI模型与人类福祉之间的潜在不一致性。
- 评估AI对经济系统的影响，通过模拟现实任务来预测长期劳动市场影响。
- 与AISI的合作是实现AI对人类利益的战略一部分，同时减轻潜在风险。
- 内部治理流程和与独立外部专家的合作对安全和负责任的AI开发至关重要。
- Google DeepMind是前沿模型论坛和人工智能合作伙伴关系的创始成员，专注于前沿AI模型的安全和责任开发。
➡️
