AI离“理解万物”还有多远?先拿癌细胞和行星轨道试试水

AI离“理解万物”还有多远?先拿癌细胞和行星轨道试试水

💡 原文中文,约4800字,阅读约需12分钟。
📝

内容提要

PhAI Labs联合多所高校发布跨领域框架JEPA-Anything,其核心OPF机制将目标状态分解为正交子空间,由不同分支独立预测,避免预测容量被强信号挤占。该框架在视觉、生物、临床、控制、分子、物理场和天气七类系统中验证,九项任务性能提升。模型内部因子还可用于科学分析:在肝癌研究中提出IL-18联合CD73阻断方案并经类器官和小鼠验证;在行星轨道任务中无先验公式下提取出开普勒第三定律关系。

🔎

延伸解读

OPF机制:解决预测容量分配问题

标准JEPA将所有信息汇入同一预测路径,导致强信号挤占预测容量,微弱但关键的信息被掩盖。JEPA-Anything的核心OPF机制将目标状态分解为正交子空间,由不同分支独立预测,并引入正交约束、因子活性约束和编码器方差约束,避免分支冗余和表示坍缩。这些因子并非预先指定,而是由数据中的可预测结构决定,为后续科学分析留下接口。

跨领域验证:性能提升与局限

在视觉、生物、临床、控制、分子、物理场和天气七类系统中,JEPA-Anything在九项任务上性能提升,如Burgers方程MSE下降39.7%,WeatherBench 2下降10.5%。但实验也显示并非全面碾压:在Hopper控制任务上标准JEPA更好,且长程预测误差仍会累积。这表明该框架验证的是共同预测原则的跨领域适用性,而非已实现统一所有领域的世界模型。

内部因子作为科学分析接口

JEPA-Anything的隐空间因子不仅用于预测,还可作为科学分析的接口。在肝癌研究中,研究者从正交因子坐标中筛选出IL-18联合CD73阻断方案,并经细胞系、类器官和小鼠实验验证。在行星轨道任务中,模型未被告知开普勒定律,却从隐模式中提取出轨道频率-半长轴关系,拟合斜率-1.4991,与理论值-1.5高度吻合。这展示了模型内部结构可被提取并接受实验与已知规律检验。

Q&A

JEPA-Anything是什么?它主要想解决什么问题?

JEPA-Anything是PhAI Labs联合多所高校发布的跨领域框架,旨在探索不同领域(如视觉、生物、临床等)能否共享一套底层的预测学习方法。它通过OPF机制解决预测容量分配问题,避免强信号挤占弱信号,从而提升跨领域预测性能。

OPF(正交预测分解)机制是如何工作的?

OPF将目标状态分解为多个正交子空间,由不同分支独立预测,再拼回完整状态。它引入正交约束防止分支冗余,并通过因子活性约束和编码器方差约束避免因子失活和表示坍缩。因子学什么由数据中的可预测结构决定,而非预先指定。

JEPA-Anything在哪些领域进行了验证?效果如何?

在视觉、生物、临床、控制、分子、物理场和天气七类系统中验证。在九项预测任务中性能提升,例如Burgers方程MSE下降39.7%,浅水方程下降39.3%,WeatherBench 2下降10.5%。但在连续控制中并非所有任务都更好,如Hopper上标准JEPA更优。

JEPA-Anything在肝癌研究中有什么具体发现?

研究者分析模型内部的正交因子坐标,筛选出IL-18联合NT5E/CD73阻断的候选组合,并在Huh7-PBMC共培养体系、患者来源的肝细胞癌类器官和肿瘤组织碎片以及免疫健全小鼠中验证。结果显示该组合展现出最强的肿瘤细胞杀伤力,并显著增强免疫细胞激活。

JEPA-Anything如何从行星轨道数据中提取开普勒第三定律?

研究者仅向模型输入模拟的行星位置与速度轨迹,不提供任何先验公式。训练后对模型隐模式进行频谱分析,将提取的频率与轨道半长轴配对,得到拟合斜率为-1.4991,与开普勒第三定律理论值-1.5高度接近,R²=0.99999999。

JEPA-Anything与标准JEPA相比有什么改进?

标准JEPA将所有信息汇入同一个target embedding,可能导致预测容量被强信号挤占。JEPA-Anything通过OPF机制将目标状态分解为正交子空间,由不同分支独立预测,避免容量挤占,并在多项任务中降低预测误差,如分布内单项干预误差降低约11.7%。

JEPA-Anything的局限性有哪些?

实验数据并未显示单一机制全面碾压,在连续控制任务中(如Hopper)标准JEPA表现更好;连续预测距离越远误差仍会累积,例如Burgers测试中预测长度从20步增加到50步时,JEPA-Anything优势明显缩小。因此它验证的是共同预测原则的跨领域适用性,而非已实现统一所有领域的世界模型。

🏷️

标签

➡️

继续阅读