AI零帧起手写算子,反超DeepSeek人类手写巅峰:快了9.8%!

AI零帧起手写算子,反超DeepSeek人类手写巅峰:快了9.8%!

💡 原文中文,约3800字,阅读约需10分钟。
📝

内容提要

面壁智能的ForgeKernel是一个无人参与的算子生成Agent,仅凭数学定义和硬件约束,在22.5小时内经42轮迭代,于英伟达B200上将DeepSeek的FlashMLA Prefill算子提速9.8%,全程零人类代码。该系统此前登顶昇腾CANNBench三张硬件榜第一,同一套系统跨英伟达与昇腾通用。其方法基于JustGoal论文,让模型自主优化,补足架构设计短板。生成的算子已接入训练框架,在国产芯片上提速20%~30%,有望缩小与英伟达生态差距,并已开源。

🔎

延伸解读

从“人类手写”到“AI自进化”的范式转变

ForgeKernel在无人参与下,仅凭数学定义和硬件约束,经42轮迭代在B200上超越DeepSeek的FlashMLA Prefill算子9.8%。这标志着算子优化正从依赖资深工程师手写,转向AI自主迭代。文章指出,人类专家数量已跟不上芯片和模型迭代速度,而AI能快速验证代码,使工程落地率先闭环。

跨硬件通用性:一套系统通吃英伟达与昇腾

ForgeKernel同一套系统在英伟达B200和昇腾三张榜单上均获第一。其方法不预设固定流程,迁移到新硬件只需更换性能分析工具,硬件知识由模型边测边积累。这意味国产芯片推出时,不必从零搭建适配流程,新硬件上市到算子适配的空窗期可被大幅压缩。

国产芯片的提速红利与生态差距

文章指出,同样用AI优化训练框架,国产芯片上能提速20%~30%,英伟达上为5%~10%。因CUDA生态经多年专家优化,提升空间有限;国产芯片算子库尚不完善,AI带来的增益更明显。ForgeKernel有望提高国产芯片性价比,缩小与英伟达的生态差距,但文章未给出具体芯片型号的对比数据。

产业落地与人类角色的重新定位

ForgeKernel生成的算子已接入训练框架,在国产芯片与英伟达平台完成MiniCPM5-1B长训测试。文章认为,AI研发主体正从人类转向AI,但人类专家并未离场,而是从写底层代码转向搭建环境、设定目标和验证标准。这种分工变化可能加速国产芯片从“能跑”到“跑好”的进程。

❓

Q&A

ForgeKernel是什么?它由谁开发?

ForgeKernel是面壁智能智能进化实验室联合OpenBMB社区开源的算子生成系统,是一个无人参与的Agent,能仅凭数学定义和硬件约束自动生成高性能算子。

ForgeKernel在英伟达B200上取得了什么成绩?

ForgeKernel在英伟达B200上,仅用22.5小时、42轮迭代,将DeepSeek的FlashMLA Prefill算子提速9.8%,全程零人类代码,超越了人类手写算子的巅峰。

ForgeKernel在昇腾CANNBench上表现如何?

ForgeKernel同时登顶昇腾CANNBench 950DT、950PR、A3三大硬件榜单第一。在950DT上总分4010.75,领先第二名27.8%;950PR上总分4165.94,基准加速比1.638×;A3上总分4341.16,基准加速比1.898×。

ForgeKernel是如何实现跨硬件平台通用的?

ForgeKernel不依赖特定硬件,其组织优化的方法是通用的,没有为任何芯片预设固定流程。迁移到新硬件时,只需更换性能分析工具(如从NCU换成msprof),硬件知识由模型在芯片上边测边积累。

ForgeKernel相比JustGoal论文的方法有哪些改进?

JustGoal只给模型一个优化目标,不提供算子知识,但模型难以独立设计整体架构。ForgeKernel在JustGoal基础上补足了架构设计短板,通过自进化、主动资源调度等机制,实现了更好的性能。

ForgeKernel生成的算子在实际应用中有哪些价值?

ForgeKernel生成的算子已接入训练框架,在国产芯片上可提速20%~30%,在英伟达上提速5%~10%,能提高国产芯片性价比,缩小与英伟达差距,并已用于MiniCPM5-1B的长训测试。

🏷️

标签

➡️

继续阅读