陶哲轩在IMO上给AI团队颁奖!他们要做AI数学的ImageNet
内容提要
陶哲轩在国际数学奥赛上为AI团队颁奖。Numina团队使用Python代码验证想法,通过微调、新颖解码算法和内部验证数据集,使用7B模型解决数学奥赛难题。他们还开源了约86万道题目微调数据集。Numina的目标是做出AI数学的ImageNet。
延伸解读
比赛规则如何倒逼方法创新
AIMO进步奖对算力和模型施加了严格限制:只能使用单卡P100或双卡T4推理,且模型必须在赛前公开。这意味着参赛者无法靠堆算力或使用未公开的大模型取胜。Numina团队因此选择7B模型,并专注于微调、解码算法和内部验证数据集等创新。这种限制反而促使团队探索更高效的方法,其经验可迁移至更大规模研究。
NuminaMath-7B的独特解题策略
NuminaMath-7B并非通用对话模型,而是专为数学解题设计的“做题家”。它通过微调学会使用Python代码验证想法,并采用工具集成推理的新颖解码算法,在推理过程中生成候选解决方案。部署时使用8bit量化和vllm进行32次采样多数投票,以加快解题速度。这种主动调用代码验证的方式,是其解决奥赛难题的关键。
开源数据集与开放研究的意义
Numina团队开源了约86万道涵盖高考到竞赛数学的微调数据集,以及模型权重、代码和训练细节。联合创始人李嘉认为,当前AI公司日益封闭,数学数据被视为核心优势,减少与大学合作。Numina作为非营利组织,旨在提供开放平台,推动AI4MATH研究。他们希望像ImageNet催生AlexNet那样,通过开放数据和竞赛促进AI数学的突破。
DeepSeekMath-7B为何受青睐
本次比赛前四名团队无一例外都使用了DeepSeekMath-7B作为基础模型。这反映出该模型在数学任务上的强大能力,得到了最挑剔使用者的认可。Numina团队也基于它进行微调,最终打造出数学推理方面最好的7B模型之一。这提示我们,高质量的开源基础模型正成为AI数学研究的重要基石。
Q&A
陶哲轩在国际数学奥赛上颁奖给哪个团队?
陶哲轩在国际数学奥赛上颁奖给AI团队Numina。
Numina团队在比赛中解决了多少道测试题?
Numina团队在比赛中成功解决了29道测试题。
Numina团队的目标是什么?
Numina团队的目标是做出AI数学的ImageNet。
AI数学奥林匹克奖的设立目的是什么?
AI数学奥林匹克奖旨在促进能在IMO竞赛中赢得金牌的开放共享AI模型的诞生。
Numina团队使用了什么模型进行数学推理?
Numina团队使用了NuminaMath-7B模型进行数学推理。
Numina团队在比赛中采用了哪些创新方法?
Numina团队通过微调和新颖解码算法解决数学问题,并使用Python代码验证想法。