A社联创演讲：AI奇点已来
内容提要
Anthropic联合创始人Jack Clark在IMF年会上表示AI奇点已至：AI代码产出达此前10倍，在数学、生物、物理等领域展现科学创造力，甚至能纠正顶尖物理学家的错误。AI将催生百亿虚拟科学家并推动经济重构，但也带来生物武器、网络攻击和研发失控等风险。他呼吁人类保持克制，区分能做什么与该做什么，并警惕留给人类适应的时间可能不足十年。
延伸解读
从代码到科学：AI能力跃迁的实证
文章用多个具体案例说明AI已从代码生成跨入科学发现：Anthropic内部代码产出达此前10倍；AI在千禧年难题、Erdős问题上给出破局思路；在50道未公开物理难题测试中，GPT-6 Astra得分约98%，甚至纠正了人类专家的计算错误。这些证据支撑了Clark“奇点已至”的判断，也表明AI正从模式匹配转向科学创造力。
经济重构的瓶颈在物理世界
Clark预测AI将催生百亿虚拟科学家，并援引Anthropic模拟称2030年美国GDP或达44万亿美元。但文章强调，算力发现与物理实验之间存在错配：虚拟科学家可提出海量假设，现实实验室却难以同步验证。因此，能快速建设自动化机器人实验室、打通数字到制造供应链的国家，才可能真正兑现奇点红利，这也被视为发展中国家的追赶机会。
风险与治理：克制为何关键
文章指出，AI的科学能力是双刃剑：既能设计新药，也可能被用于生物武器和网络攻击；若实验室放手让AI编写AI、训练AI，研发闭环可能脱离人类理解。Clark因此呼吁开发者、监管者践行“克制”，区分能做什么与该做什么。文章还提出两个追问：人类应保留哪些科研阵地，以及是否必须理解AI给出的突破。
理解黑盒：人类认知的新挑战
文章提到，AI在纯数学中给出的证明虽被验证正确，但其逻辑跳跃已脱离人类思维习惯，顶尖数学家需数月甚至数年解读。若未来AI发明出违背人类直觉的科学仪器与实验范式，人类是否应允许其落地将成为现实问题。这提示读者，奇点不仅是能力问题，更是认知与治理问题，留给人类适应的时间可能不足十年。
Q&A
Jack Clark 说“AI奇点已经到来”的主要依据是什么？
他给出三方面证据：一是软件工程被彻底重写，Anthropic 内部代码产出量达到公司成立前四年平均水平的 10 倍；二是单一前沿大模型跨学科横扫科学前沿，在数学、生物、物理等领域展现科学创造力，甚至纠正顶尖物理学家的计算错误；三是 AI 已能反向纠正人类专家，证明其跨过了记忆和模式匹配，掌握了科学创造力。
AI 在科学研究中具体取得了哪些突破？
在数学界，AI 对纳维—斯托克斯方程相关千禧年难题、雅可比猜想及多道 Erdős 难题给出关键破局思路；在生物学界，AI 从头设计全新病毒载体，并主导设计多款进入临床试验的新药候选分子；在硬件与材料领域，AI 自主操作物理实验室设备，加速电池和燃料电池迭代。
AI 在“人类最后的考试”和物理难题测试中表现如何？
Humanity’s Last Exam 2025 年 1 月发布时最强模型仅得 8%，到本周 Claude Opus 5.5 得分已达 67.7%；FrontierMath 数学基准从 2024 年底的 2 分提升到 94 分。在 50 道全球顶尖理论物理学家未公开的绝密难题上，GPT-6 Astra 初步得分约 80%，经人类专家修正参考答案后最终得分达 98%，做对 49 道。
AI 奇点将如何改变科学家规模和宏观经济？
Jack Clark 描绘：每位人类科学家可调用成百上千个虚拟博学者，全球科研军团将从约 1000 万人类科学家扩充为十亿乃至百亿规模的虚拟科学家集群。Anthropic 经济学家团队模拟推演显示，在 AI 自主科学发现全面接管经济的奇点假设下，到 2030 年仅美国年度 GDP 就有望飙升至 44 万亿美元，相当于今天全球经济总量的 37%。
AI 奇点带来哪些系统性风险？
风险包括：AI 能以极高效率设计人类免疫系统从未见过的恶性生物武器；能自动生成全球顶尖黑客团队都无法防御的网络攻击武器；更令人不安的是研发闭环失控——若实验室放手让 AI 编写 AI、训练 AI，技术轨迹将在极短时间内脱离人类心智理解范畴。
Jack Clark 呼吁人类如何应对奇点？
他呼吁为技术及其开发公司制定不同寻常、严肃认真的规则，践行人类最困难也最高贵的品质——克制：开发者不能因为能做到就肆无忌惮推进，监管者必须建立严苛的人类监督红线，人类必须时刻区分能做什么与应该做什么。他还引用卡尔·萨根的话警示，留给人类完成心智蜕变的窗口期可能不足 10 年。
