内容提要
陶哲轩从AI积极推广者转为“减速派”,在SAIR演讲中批评AI公司无休止加速却不顾后果,呼吁放慢数学AI研究。他提出“证明消化不良”概念,指AI量产证明却无人理解消化,会破坏数学认知生态。他与25位菲尔兹奖得主联名抗议,OpenAI回应成立顾问小组,但声明不干预内部进展。
延伸解读
陶哲轩为何转向“减速派”?
陶哲轩此前积极推广AI在数学中的应用,但在SAIR演讲中批评AI公司无休止加速,呼吁放慢数学AI研究。他提出“证明消化不良”概念,指AI量产证明却无人理解消化,会破坏数学认知生态。这一转变源于对AI可能损害数学长远发展的担忧。
“证明消化不良”的隐患
陶哲轩指出,AI在生成解答和形式化验证上加速,但理解、消化、写教科书等环节几乎为零,导致知识拥堵。长此以往,数学家创造力可能丧失,且AI生成的低质量数据会污染训练数据,类似克隆小鼠的累积缺陷,最终危害数学研究。
联名抗议与OpenAI的回应
陶哲轩联合25位菲尔兹奖得主联名抗议,批评AI公司把数学当benchmark刷,与数学界追求认知摩擦的目标错位。OpenAI回应成立独立顾问小组,但声明不干预内部进展,表明公司不会因此放缓AI研发步伐。
公众反应与数学界的孤立
网友对数学界的抗议多持幸灾乐祸态度,玩梗称“画家倒下时,陶哲轩在哪?”。这反映出公众对AI取代人类工作的复杂情绪,也凸显数学界在AI浪潮中的孤立处境,其担忧难以获得广泛共情。
Q&A
陶哲轩为什么从AI积极推广者变成了AI减速派?
陶哲轩在SAIR演讲中批评AI公司无休止加速却不顾后果,呼吁放慢数学AI研究。他提出“证明消化不良”概念,指AI量产证明却无人理解消化,会破坏数学认知生态。
什么是“证明消化不良”?
陶哲轩提出的概念,指AI大量生成数学证明,但人类无法理解、消化和传播,导致知识拥堵,就像20世纪初汽车突然涌入街道造成交通瘫痪。
陶哲轩认为AI加速数学研究可能带来哪些风险?
一是数学家创造力丧失,AI直接跳向答案,抹杀了漫步式探索的偶发灵感;二是数据污染,未来AI训练数据充斥AI生成、人类无法理解的证明,可能像克隆小鼠一样导致缺陷累积。
陶哲轩联合了多少位菲尔兹奖得主抗议AI公司?
陶哲轩联合了25位菲尔兹奖得主联名写公开信,炮轰OpenAI等模型公司,认为AI公司不能把数学打benchmark刷,这种做法与数学界追求的目标严重错位。
OpenAI对菲尔兹奖得主的抗议做出了什么回应?
OpenAI宣布成立一个设在普林斯顿高等研究院的独立顾问小组——“数学与人工智能顾问小组”,为新兴研究成果的审查和传播提供建议,但声明不干预内部进展。
陶哲轩如何比喻未解决的数学问题?
陶哲轩将未解决的数学问题比作灯塔:大多数人出海不是为了灯塔所在的地方,但灯塔照亮了整片海域与地貌,让人们能够安全航行。真正珍贵的是研究过程中建立起来的工具、理论框架和洞见。