内容提要
OpenAI宣布在数学、计算机科学和物理领域取得三项突破,但仅公开数学成果,计算机科学结果将由外部专家解释,物理论文暂不发布。研究人员肯定成果重要性,但批评OpenAI挑选专家把关、限制访问,认为应公开全部材料供同行验证,并担忧AI快速产出难以核实的论文。
延伸解读
“牧羊人”机制为何引发不满
OpenAI为三项突破分别安排了不同的发布策略:数学成果直接公开AI输出,计算机科学结果由外部专家组解释,物理材料则暂不发布。研究人员并不反对咨询外部专家,但批评由OpenAI单方面挑选“牧羊人”决定谁先看到成果。AGMAI在声明中明确指出,这种做法借用了被选专家的声誉,并带来不平等访问、选择性偏差和延迟等问题,建议改为在学术仓库公开输出。
成果重要性获认可,但验证门槛被抬高
受访专家对成果本身评价颇高,称其为“巨大”“重大突破”“意义显著”。数学结果声称解决所有维度的Kakeya猜想,布朗大学教授Hassett表示该主张“看起来有充分支持”,但强调自己尚未检查Lean形式化验证。物理结果涉及标准模型和量子色动力学,计算机科学结果则声称推翻指数时间假设。由于披露程度不一且材料复杂,研究人员难以完整判断,即便材料齐全也需要时间核验。
更深层的担忧:产出速度超过核实能力
佐治亚理工学院教授Xiaoyu He认为,问题不止于发布方式。他指出OpenAI在展示负责任发布姿态的同时,并未改变两个核心问题:基础结果正以极快速度在缺乏人类贡献的情况下被解决,且论文难以阅读和验证。此前数百篇预印本被集中发布已让数学家不堪重负,这次虽缩减为三项,但研究人员仍担心AI快速产出难以核实的论文会成为常态。
公开材料可能带来的实际好处
Hassett认为,公开成果有助于改善科学质量并推动新工具普及:让全球多个团队共同研究这些结果,能支持希望使用新工具的人快速采用。AGMAI也敦促OpenAI立即公开物理结果背后的自然语言和Lean输出,理由是该形式化据OpenAI自己所说已经完成,不存在继续延迟的科学理由。这提示读者,争议焦点不只是透明度,还涉及研究成果能否被社区有效消化和复用。
Q&A
OpenAI最近宣布了哪些领域的突破?
OpenAI宣布在数学、计算机科学和物理三个领域取得了突破。
OpenAI对这三项突破的发布策略有什么不同?
数学成果直接发布了AI生成的输出;计算机科学成果将组建外部研究小组来解释;物理成果暂未发布,将听从外部专家组的建议决定如何发布。
研究人员对OpenAI的发布方式有哪些批评?
研究人员批评OpenAI挑选专家来把关,限制访问,认为应公开全部材料供同行验证,并担忧AI快速产出难以核实的论文。
数学成果具体解决了什么猜想?
数学成果声称解决了所有维度的Kakeya猜想,该问题大致询问旋转一根针或铅笔指向所有方向所需的最小空间。
物理成果涉及哪些理论?
物理成果涉及标准模型中的量子色动力学(描述强核力)及其与Yang-Mills理论的关系,但未解决“质量间隙”问题。
计算机科学成果声称推翻了什么假设?
计算机科学成果声称推翻了指数时间假设,该假设认为某些问题无法显著快于暴力方法解决,与P versus NP问题密切相关。
AGMAI对OpenAI的发布方式提出了什么建议?
AGMAI建议AI公司不要采用挑选专家先看输出的做法,而应在学术存储库上发布输出,附上形式化证明和问题选择信息,并为理解结果的人提供资金等支持。