内容提要
25位菲尔兹奖得主联名警告,AI公司以解数学题为基准测试,与数学共同体目标严重错位。AI解题速度已超学界消化能力,且无法提出新问题,只会功利性耗尽开放难题,并破坏学术规范与人才培养。声明呼吁紧急应对,防止人类知识传递链断裂。
延伸解读
AI解题速度与数学消化能力的脱节
声明指出,AI解题速度已超过数学共同体消化知识的速度。数学研究不仅在于解决问题,更在于理解证明、提炼方法并整合进知识体系。AI快速产出结果,但人类数学家需要时间验证、理解和传授,这种脱节可能导致知识传递链断裂,影响数学的长期发展。
评价体系分叉:基准测试与数学理解
AI公司以解决数学难题作为基准测试,追求功利性成果,而数学界追求方法、理解和知识传承。两套评价体系的分叉导致AI研究偏离数学共同体的核心目标。声明强调,数学的核心在于概念理解和洞见,而非单纯的真假断言,这种错位可能损害数学研究的土壤。
开放问题耗尽与学术规范危机
AI以暴力搜索快速解决开放问题,却无法提出有价值的新问题,导致开放问题被功利性耗尽。同时,AI解决方案常匆忙发布,缺乏严谨论文和适当引用,引发署名与剽窃争议。这破坏了学术规范,并可能使数学界陷入寒蝉效应,阻碍开放协作。
人才培养与知识传递链的威胁
数学发展依赖人类社区通过报告、讨论和简化来消化新知识,并最终整合进教材。AI直接输出结果的方式破坏了这种训练,削弱了人类深入理解和提出新问题的能力。如果人类数学家不接手整合AI的构想,代际间的知识传递链将断裂,影响数学的传承与创新。
Q&A
陶哲轩、邓煜等25位菲尔兹奖得主联名声明的主要反对内容是什么?
他们反对AI公司以解数学题作为基准测试来推进数学研究,认为这与数学共同体的目标严重错位,会破坏数学研究的土壤,并导致人类知识传递链断裂。
为什么AI解题速度超过数学共同体消化知识的速度会成为一个问题?
因为数学研究不仅需要解决问题,还需要理解证明、识别新方法、连接已有知识,并通过报告、讨论、简化等过程逐渐消化,最终整合进教材。AI快速产出结果但缺乏理解,会破坏这一消化过程。
AI在数学研究中缺乏哪种关键能力?
AI缺乏“向前探索”的能力,即无法敏锐感知数学地貌并提出具有深远价值的新开放问题。
AI公司追求benchmark成绩与数学界追求的目标有何不同?
AI公司追求benchmark成绩,将解决数学难题作为衡量模型能力的指标;而数学界追求方法、理解和知识传承,核心在于概念理解与洞见。
声明中提到的“人类知识传递链断裂”是什么意思?
指数学发展依赖人类社区通过报告、讨论、简化,将成果整合进教材与教学中的消化过程。如果AI直接输出结果而无人接手整合,代际之间关键的人类知识传递链将会断裂。
陶哲轩和邓煜此前对AI辅助数学研究持什么态度?
陶哲轩积极倡导AI辅助科研,将AI视为卓越的“研究助理”,但反对过度神圣化;邓煜日常使用AI辅助科研,更关心AI底层的数学基础,相信未来数学家与AI将走向人机协作。