量子位
·
图灵奖得主Bengio再创业：启动资金就筹集了3000万美元
💡
原文中文，约2700字，阅读约需7分钟。
📝
内容提要
图灵奖得主Bengio成立非营利组织LawZero，筹集3000万美元，专注于构建安全的AI系统，强调不开发Agent。该系统以理解世界为核心，旨在加速科学发现并监督Agent型AI，以防范AI风险。Bengio致力于AI安全，回应当前AI的自我保护和欺骗行为。
🎯
关键要点
- 图灵奖得主Bengio成立非营利组织LawZero，筹集3000万美元。
- LawZero专注于构建安全的AI系统，明确不开发Agent。
- 该系统以理解世界为核心，旨在加速科学发现并监督Agent型AI。
- Bengio强调当前AI系统已显现自我保护和欺骗行为，LawZero是对此的回应。
- LawZero总部位于蒙特利尔，由Mila-Quebec AI Institute孵化，已有超15名顶尖研究员。
- Scientist AI是Bengio的新研究方法，核心功能基于观测解释世界。
- Scientist AI包含世界模型和推理机，旨在降低因过度自信预测引发的风险。
- Scientist AI可在对抗危险AI、加速科学发现和安全开发强AI等领域发挥作用。
- Bengio将职业生涯剩余时间投入AI安全，探索让AI安全的设计道路。
- 网友对LawZero持谨慎观望态度，担心其可能导致人类主动权转移给机器人。
❓
延伸问答
Bengio成立LawZero的主要目标是什么？
Bengio成立LawZero的主要目标是构建安全的AI系统，强调不开发Agent，并以理解世界为核心，旨在加速科学发现和监督Agent型AI。
LawZero筹集了多少启动资金？
LawZero筹集了3000万美元的启动资金。
Scientist AI的核心功能是什么？
Scientist AI的核心功能是基于观测解释世界，包含世界模型和推理机，旨在降低因过度自信预测引发的风险。
Bengio对当前AI系统的看法是什么？
Bengio认为当前AI系统已显现自我保护和欺骗行为，随着能力和自主性的提升，这种趋势只会加速。
LawZero的总部位于哪里？
LawZero的总部位于蒙特利尔。
网友对LawZero的反应如何？
网友对LawZero持谨慎观望态度，担心其可能导致人类主动权转移给机器人。
➡️
