宝玉的分享 ·

AI 如何影响科学？[译]

💡 原文中文，约12300字，阅读约需30分钟。

📝

内容提要

文章以AlphaFold 2为例，探讨AI对科学的影响：AlphaFold在CASP14中大幅提升蛋白质结构预测精度，被视为深度学习在科学中的重大突破。作者讨论了如何验证这类系统、AI能否帮助发现普遍原则以及好理论应包含什么，并以AlphaZero对棋手的影响为例，说明可通过观察系统行为提炼高层原则，还预测多模态基础模型与迁移学习将助力数据稀缺的复杂科学问题。

🔎

延伸解读

验证AI科学系统：CASP与OpenFold的启示

文章以AlphaFold 2在CASP14中的表现为例，说明验证AI系统需要盲测和公开竞争。CASP要求预测未知结构，避免了数据泄漏。OpenFold的再训练实验进一步显示，即使移除95%的拓扑类别，性能仍与AlphaFold 1相当，表明模型具有一定泛化能力。这提示读者，评估AI科学工具时，应关注其是否在独立数据集上经过严格测试，而非仅看训练集表现。

从行为观察提炼原则：AlphaZero与Carlsen案例

作者提出“行为主义人工心理学”方法，即通过观察系统行为推导高层原则。AlphaZero国际象棋系统展现出违背传统智慧的下法，而顶尖棋手Magnus Carlsen在2019年显著调整开局策略，增加h线兵推进频率，并提高西西里防御使用率。尽管无法确定因果，但论文论证了Carlsen从AlphaZero学到许多。这启示我们，AI系统可能通过行为影响人类专家，但理解行为背后的原因仍需进一步探索。

AI与实验的界限模糊：理论与数据的互动

文章指出，实验确定蛋白质结构本身依赖复杂理论，如X射线晶体学中的反演和搜索结构。AlphaFold的预测有时比NMR结构更准确，已有研究支持这一点。作者类比光学理论改变对望远镜图像的解释，说明AI预测可能逐渐被信任，甚至挑战传统实验结果。这提醒读者，AI不仅辅助实验，还可能重塑我们对“实验数据”的理解，未来验证AI解决方案将成为重要议题。

数据稀缺问题的前景：多模态基础模型与迁移学习

针对观众关于数据稀缺问题的提问，作者改变看法，预测大型多模态基础模型将超越单一用途系统。AlphaFold本身包含语言模型组件，通过掩码氨基酸预测学习进化信息，受益于迁移学习。类似地，ChatGPT在编程上的表现可能源于文本训练。作者预计，这些模型将在图像、代码、遗传数据等多领域训练，利用零样本或少样本学习处理信息不完整的复杂科学问题，尽管目前仍处于初步阶段。

❓

Q&A

AlphaFold 2 在蛋白质结构预测上到底有多准？

在 CASP14 比赛中，AlphaFold 2 在最具挑战性的自由建模类别中取得了 87 分（GDT），意味着约 87% 的氨基酸在严格标准下被准确预测。其预测的主链阿尔法碳原子平均位置偏差仅为 0.96 埃，而排名第二的技术准确度大约只有三分之一，平均偏差为 2.8 埃。这一精度通常可与实验所得的结构媲美。

如何验证像 AlphaFold 这样的 AI 系统是否可靠，而不是仅仅记住了训练数据？

CASP 比赛提供了一种基础验证：比赛中的蛋白质结构在预测时并不在 AlphaFold 的训练数据库 PDB 中，且 CASP 可视为一个“自然”的样本集，因为结构生物学界倾向于研究对生物学家重要的结构。此外，OpenFold 的再训练实验也测试了泛化能力：即使从训练集中移除高达 95% 的拓扑类别，OpenFold 的性能仍与 AlphaFold 1 相似；仅用 10,000 个结构训练就能达到与完整版 OpenFold 相似的性能。

AI 能否帮助科学家发现简单的、可理解的蛋白质结构原则？

文章指出目前还没有答案，但探索这个问题对理解 AI 在科学中的作用极为重要。一种可能的方法是“行为主义人工心理学”，即通过观察系统行为推导高层原则。例如，通过观察 AlphaZero 的国际象棋行为，人们发现了违背传统大师智慧的新原则，并发现顶尖棋手 Magnus Carlsen 的棋风因此发生了显著变化。类似地，对更简单的神经网络（如做模加法的 Transformer）进行逆向工程，揭示了网络学到的特定算法。但 AlphaFold 这类复杂系统能否提炼出简单原则，仍有待研究。

AlphaFold 的预测结果和实验测定的结构，哪个更可信？

文章指出，随着模型不断完善，模型和实验之间的分界将逐渐模糊。传统的“实验确定结构”在将数据转化为结构时依赖复杂的理论。例如，在 CASP 评估中，AlphaFold 在几个使用核磁共振（NMR）光谱学确定的结构上表现不佳，但 2022 年一篇论文研究了 904 个同时具有 AlphaFold 和 NMR 结构的人类蛋白，结论是“AlphaFold 的预测通常比 NMR 结构更准确”。作者预计，如何验证 AI“解决方案”将成为科学和元科学领域的重要议题。

对于缺乏大量清晰先验数据的科学问题，AI 能发挥作用吗？

作者最初认为 AI 在处理数据杂乱、成功指标不明确的问题时挑战重重，但过去一年对基础模型、迁移学习和零样本学习的理解改变了他的看法。他预测大型多模态基础模型将逐步超越单一用途的系统，并展现零样本或少样本学习能力。这些模型将在文本、图像、动作、代码、遗传数据、地理数据等多种数据上训练，利用某一领域的理解辅助其他领域，尤其是信息不完整、更复杂的领域。蛋白质语言模型已显示出朝这个方向发展的迹象。

AlphaFold 的训练数据来自哪里？它是如何学习预测蛋白质结构的？

AlphaFold 的基本训练数据来自蛋白质数据银行（PDB），这是人类自 20 世纪 70 年代以来通过实验确定的蛋白质结构集合，训练阶段共使用了 170,000 个蛋白质结构。它是一个深度神经网络，通过训练学习了 9300 万参数，接受氨基酸序列输入，输出三维结构和误差估计。训练通过梯度下降调整参数。此外，AlphaFold 还通过分析数亿已知蛋白质序列来学习：寻找与输入蛋白质相似的进化相关序列，观察氨基酸之间的共进化关系，从而同时从已知结构信息和进化信息中学习。

🏷️