内容提要
数学家Nestor Guillen撰文主张,大语言模型应被视为类似市场、官僚体系和科学文献的“文化技术”,而非智能主体。其输出若含新数学思想,应视为数千年人类数学遗产的结晶,是学科骄傲而非威胁。他呼吁区分LLM技术与AI公司产品,推动开放模型,并借鉴滑板运动应对危机的经验,让数学界在动荡中变得更强大。
延伸解读
将LLM视为文化技术,而非智能主体
文章主张,大语言模型应被理解为类似市场、官僚体系和科学文献的“文化技术”,而非具有自主智能的主体。这一视角有助于缓解数学家对AI取代人类工作的焦虑。LLM的输出本质上是数千年人类数学遗产的压缩与重组,其价值源于集体智慧,而非技术本身的“天才”。理解这一点,能让数学界更理性地看待LLM的贡献,并专注于理解数学本身。
“思想凸包”决定LLM能解决什么问题
作者借用几何中的“凸包”概念,提出LLM能否解决某个数学问题,很大程度上取决于现有文献中是否已包含足够多的相关思想。如果某个突破所需的关键思想尚未出现,LLM难以凭空创造;反之,若文献中已有分散的线索,LLM可能通过重组找到答案。因此,LLM的“解题能力”是文献状态的函数,而非单纯模型规模的函数。
滑板运动的启示:危机可能催生更强大的共同体
文章以滑板运动在1990年代经济衰退中的转型为例:赞助和比赛消失后,滑板视频成为新的交流媒介,使滑板从竞技体育转向更具协作性的创意领域。作者认为,数学界可借鉴这一经验,在AI公司冲击下探索新的社会结构和职业安排,如开放模型、政策倡导和社区实验,从而在动荡中变得更强大,并减少对个体数学家的伤害。
Q&A
为什么说大语言模型是文化技术?
大语言模型被视为文化技术,因为它们像市场、官僚体系和科学文献一样,是人类群体处理海量信息的系统。它们通过压缩和重组人类积累的知识,帮助个体超越自身认知局限,获取集体智慧。
如果LLM解决了黎曼猜想,数学家应该感到骄傲还是焦虑?
数学家应该感到骄傲。因为LLM的输出本质上是数千年人类数学遗产的结晶,是集体智慧的成果。这应被视为学科的胜利,而非威胁。
LLM能否独立提出全新的数学概念,比如欧拉引入分析数论?
根据文化技术框架,LLM不太可能独立产生这种革命性创新。因为文化技术依赖于个体先前的创新,LLM只能重组已有知识。欧拉式的突破需要个体先提出新视角,LLM无法凭空创造。
数学界可以从滑板运动的历史中学到什么应对危机的经验?
滑板运动在1990年代因经济衰退失去赞助和比赛,但通过滑板视频这一新媒介,从业余爱好者到职业选手都能展示技巧,社区转向更协作、创意的模式。数学界可借鉴:利用新技术(如开放LLM)重建交流方式,减少对传统资助的依赖,并保持社区凝聚力。
为什么数学界需要区分LLM技术和AI公司的产品?
因为AI公司的产品愿景被过度推广,导致人们将技术与特定商业产品混淆。区分二者有助于推动开放模型,避免数学界依赖少数公司的 whims,并促进社区自主发展适合数学的LLM工具。
什么是“思想的凸包”比喻?它如何解释LLM解决问题的能力?
“思想的凸包”比喻指LLM能解决的问题受限于现有数学文献中思想的组合范围。如果解决问题所需的思想已在文献中,LLM可能通过重组找到答案;若需要全新思想,则超出凸包,LLM难以解决。这解释了LLM能力依赖于文献状态,而非单纯模型规模。