上海AI Lab主任、首席科学家周伯文亮相WAIC，人工智能45°平衡律主张首次曝光
原文中文，约2800字，阅读约需7分钟。
📝
内容提要
清华大学教授周伯文成为上海人工智能实验室主任和首席科学家，提出人工智能45°平衡律和实现该主张的技术路径。他强调人工智能的安全问题，呼吁加强全球AI安全人才交流与合作，构建开放、安全的通用人工智能创新生态和人才发展环境。
🔎
延伸解读
AI安全投入失衡的现状
周伯文指出，当前AI发展存在失衡：性能呈指数级增长，而安全技术如红队测试、安全标识等却零散、碎片化且后置。安全投入在体系化、人才、商业和算力上远落后于能力投入，导致“跛脚AI”。这种失衡是风险担忧的根本原因，需引起重视。
45°平衡律的实践含义
AI-45°平衡律主张长期沿45度线平衡发展安全与性能，短期可波动，但不可长期低于或高于45度。低于则安全滞后，高于则阻碍发展。实现需强技术驱动、全流程优化、多主体参与和敏捷治理，为AI安全与性能协同提供框架。
可信AGI的因果之梯三阶段
上海AI实验室提出“因果之梯”，分泛对齐、可干预、能反思三阶段。泛对齐依赖统计相关性，可能错误推理；可干预通过人在回路、机械可解释性等探究因果；能反思要求AI审视自身行为。目前主要停留第一阶段，需攀登后两阶段以实现真正可信AGI。
❓
Q&A
周伯文在WAIC大会上提出了什么重要概念？
周伯文提出了人工智能45°平衡律（AI-45° Law）。
人工智能45°平衡律的核心主张是什么？
该主张要求安全与性能共同发展，避免AI发展失衡。
周伯文如何看待当前人工智能的发展趋势？
他认为当前AI发展存在失衡，安全投入远低于性能提升。
实现可信AGI的因果之梯分为几个阶段？
分为三个阶段：泛对齐、可干预、能反思。
周伯文对AI安全问题的看法是什么？
他强调AI安全问题的重要性，呼吁全球AI安全人才交流与合作。
如何构建开放、安全的通用人工智能生态？
需要加强全球AI安全人才交流与合作，平衡安全与能力的投入。
🏷️
