Opus 5在ARC-AGI-3测试成绩30.2%,4倍领先于GPT-5.6 sol

Opus 5在ARC-AGI-3测试成绩30.2%,4倍领先于GPT-5.6 sol

💡 原文中文,约4000字,阅读约需10分钟。
📝

内容提要

Claude Opus 5在ARC-AGI-3测试中得分30.2%,远超GPT-5.6 Sol的7.8%,并攻克五个难题,展现代数推理能力。尽管有质疑称其可能依赖循环框架取巧,但测试反映AI在抽象推理上的质变,虽离现实应用尚远,却标志智能突破的重要信号。

🔎

延伸解读

ARC-AGI-3测试的含金量

ARC-AGI-3测试旨在评估AI的抽象推理能力,要求模型面对全新图形规律进行举一反三,而非依赖训练数据中的模式。该测试被视为AI的“智商照妖镜”,因为传统模型在此类任务上表现不佳。Opus 5的30.2%得分虽仍远低于人类水平,但相比此前顶尖模型的个位数得分,已属显著突破,表明AI在未知问题处理上可能迈出了关键一步。

代数符号化推理的意义

Opus 5在解题过程中自发将图形规律转化为代数符号,如“4_center=2*axis-5_center”,这种能力此前仅在人类和少数高级动物中观察到。它意味着模型不再只是端到端的黑盒处理,而是能显式地构建推理链条,将视觉规律抽象为数学公式。这可能是AI从模式识别向规则发现和逻辑演绎转变的重要信号,尽管其实际应用仍有限。

关于循环框架的争议

有观点认为Opus 5的高分可能源于类似“Schema”论文中提出的循环框架,即通过外部循环让模型在内部进行试错,从而提高效率。但反对者指出,作为顶级商业模型,一周内集成新框架并上线不现实,且其API成本低于GPT-5.6 Sol,与循环框架的高成本矛盾。争议焦点在于分数是否“取巧”,但即便属实,也体现了工程能力的胜利。

测试成绩与现实应用的差距

尽管Opus 5在ARC-AGI-3上表现亮眼,但30.2%的得分仅相当于“小学奥数刚及格”,距离现实世界复杂任务仍有巨大鸿沟。不过,该测试考察的正是应对全新问题的能力,与现实工作中的未知挑战有相似之处。因此,成绩提升至少表明AI在处理未知问题上的基础能力在增强,但短期内尚不能期望其承担科研等高级任务。

Q&A

Claude Opus 5在ARC-AGI-3测试中的得分是多少?

Claude Opus 5在ARC-AGI-3测试中得分30.2%,是GPT-5.6 Sol得分7.8%的近四倍。

ARC-AGI-3测试是什么?

ARC-AGI-3是抽象推理语料库第三版,专门测试AI的举一反三能力,通过图形变化规律让AI预测下一张图,题目全新且不重复,旨在揭穿AI是否具备真正的推理能力。

为什么之前的AI模型在ARC-AGI-3上表现不佳?

因为传统AI本质上是模式匹配器,依赖训练数据,而ARC-AGI-3的题目都是全新的,无法从训练数据中找到相似内容,导致AI无法应对,这被称为推理鸿沟。

Claude Opus 5在测试中展现了什么特殊能力?

Opus 5在解决ar25环境时,自己将图形布局翻译成代数符号,展现了代数符号化的推理能力,即把视觉规律转化为数学公式,这是以前只在人类身上观察到的能力。

Claude Opus 5攻破了哪些关卡?

Opus 5攻破了五个之前无人能解的关卡,分别是ar25、ft09、lp85、r11l和s5i5,其中四个关卡的解题效率达到或超过人类平均水平。

关于Opus 5的高分,有哪些质疑和反驳?

质疑认为Opus 5可能依赖循环框架取巧,但反驳指出Opus是顶级商业模型,不可能一周内集成新框架,且其API成本更低,不符合循环框架高成本的特点,同时ARC-AGI-3有严格评判标准,不易作弊。

Opus 5的测试成绩对现实应用有何意义?

虽然30.2%的得分离现实应用尚远,但测试能力的提升表明AI在处理未知问题时的底子在变好,可能正在突破只能当超级复读机的天花板,开始在抽象思维上迈步。

🏷️

标签

➡️

继续阅读