WAIC 2024开幕，上海AI Lab主任、首席科学家周伯文提出“人工智能45°平衡律”
💡
原文中文，约2700字，阅读约需7分钟。
📝
内容提要
7月4日，上海举办了2024世界人工智能大会暨人工智能全球治理高级别会议。周伯文在会上发表演讲，阐述了他的新技术主张“人工智能45°平衡律”和上海人工智能实验室实现该主张的技术路径“可信AGI的因果之梯”。他强调了人工智能安全的重要性，呼吁在AI发展中追求安全与性能的平衡。他还介绍了上海人工智能实验室正在探索的以因果为核心的技术路径，称之为“可信AGI的因果之梯”。他希望通过这种技术思想体系，实现人工智能的安全与卓越性能的平衡。
🎯
关键要点
- 2024世界人工智能大会在上海举行，周伯文发表演讲。
- 周伯文提出了“人工智能45°平衡律”，强调AI安全的重要性。
- 他呼吁在AI发展中追求安全与性能的平衡。
- 介绍了“可信AGI的因果之梯”作为实现该主张的技术路径。
- 当前AI发展存在性能与安全失衡的问题，称之为Crippled AI。
- AI安全技术的投入远远落后于AI能力的提升。
- AI-45°平衡律要求安全与性能共同增长，需找到技术体系。
- 可信AGI的“因果之梯”分为三个阶段：泛对齐、可干预、能反思。
- 目前AI安全和性能技术主要停留在第一阶段，需完善第二阶段并攀登第三阶段。
- 希望通过深入理解AI的内在机理，实现安全与卓越性能的平衡。
➡️
