WAIC 2024开幕，上海AI Lab主任、首席科学家周伯文提出“人工智能45°平衡律”
💡
原文中文，约2700字，阅读约需7分钟。
📝
内容提要
7月4日，上海举办了2024世界人工智能大会暨人工智能全球治理高级别会议。周伯文在会上发表演讲，阐述了他的新技术主张“人工智能45°平衡律”和上海人工智能实验室实现该主张的技术路径“可信AGI的因果之梯”。他强调了人工智能安全的重要性，呼吁在AI发展中追求安全与性能的平衡。他还介绍了上海人工智能实验室正在探索的以因果为核心的技术路径，称之为“可信AGI的因果之梯”。他希望通过这种技术思想体系，实现人工智能的安全与卓越性能的平衡。
🎯
关键要点
- 2024世界人工智能大会在上海举行，周伯文发表演讲。
- 周伯文提出了“人工智能45°平衡律”，强调AI安全的重要性。
- 他呼吁在AI发展中追求安全与性能的平衡。
- 介绍了“可信AGI的因果之梯”作为实现该主张的技术路径。
- 当前AI发展存在性能与安全失衡的问题，称之为Crippled AI。
- AI安全技术的投入远远落后于AI能力的提升。
- AI-45°平衡律要求安全与性能共同增长，需找到技术体系。
- 可信AGI的“因果之梯”分为三个阶段：泛对齐、可干预、能反思。
- 目前AI安全和性能技术主要停留在第一阶段，需完善第二阶段并攀登第三阶段。
- 希望通过深入理解AI的内在机理，实现安全与卓越性能的平衡。
❓
延伸问答
什么是人工智能45°平衡律？
人工智能45°平衡律是指在长期发展中，AI的安全与性能应保持大体上沿着45度的平衡发展，短期可以波动，但不能长期低于或高于这个平衡线。
周伯文在WAIC 2024上提出了哪些技术路径？
周伯文提出了“可信AGI的因果之梯”，该路径分为三个阶段：泛对齐、可干预和能反思。
当前人工智能发展存在哪些安全与性能的失衡问题？
当前AI的性能提升速度远超安全技术的发展，导致AI发展被称为Crippled AI，表现为安全技术零散化和后置性。
可信AGI的因果之梯的三个阶段分别是什么？
三个阶段分别是：泛对齐、可干预和能反思。
周伯文对AI安全的看法是什么？
周伯文强调AI安全的重要性，呼吁在AI发展中追求安全与性能的平衡，避免AI失控和潜在风险。
如何实现人工智能的安全与卓越性能的平衡？
需要建立以因果为核心的技术体系，推动安全与性能共同增长，探索可信AGI的因果之梯。
➡️
