内容提要
面壁智能的ForgeKernel是一个无人参与的算子生成Agent,仅凭数学定义和硬件约束,在22.5小时内经42轮迭代,于英伟达B200上将DeepSeek的FlashMLA Prefill算子提速9.8%,全程零人类代码。该系统此前登顶昇腾CANNBench三张硬件榜第一,同一套系统跨英伟达与昇腾通用。其方法基于JustGoal论文,让模型自主优化,补足架构设计短板。生成的算子已接入训练框架,在国产芯片上提速20%~30%,有望缩小与英伟达生态差距,并已开源。
延伸解读
从“人类手写”到“AI自进化”的范式转变
ForgeKernel在无人参与下,仅凭数学定义和硬件约束,经42轮迭代在B200上超越DeepSeek的FlashMLA Prefill算子9.8%。这标志着算子优化正从依赖资深工程师手写,转向AI自主迭代。文章指出,人类专家数量已跟不上芯片和模型迭代速度,而AI能快速验证代码,使工程落地率先闭环。
跨硬件通用性:一套系统通吃英伟达与昇腾
ForgeKernel同一套系统在英伟达B200和昇腾三张榜单上均获第一。其方法不预设固定流程,迁移到新硬件只需更换性能分析工具,硬件知识由模型边测边积累。这意味国产芯片推出时,不必从零搭建适配流程,新硬件上市到算子适配的空窗期可被大幅压缩。
国产芯片的提速红利与生态差距
文章指出,同样用AI优化训练框架,国产芯片上能提速20%~30%,英伟达上为5%~10%。因CUDA生态经多年专家优化,提升空间有限;国产芯片算子库尚不完善,AI带来的增益更明显。ForgeKernel有望提高国产芯片性价比,缩小与英伟达的生态差距,但文章未给出具体芯片型号的对比数据。
产业落地与人类角色的重新定位
ForgeKernel生成的算子已接入训练框架,在国产芯片与英伟达平台完成MiniCPM5-1B长训测试。文章认为,AI研发主体正从人类转向AI,但人类专家并未离场,而是从写底层代码转向搭建环境、设定目标和验证标准。这种分工变化可能加速国产芯片从“能跑”到“跑好”的进程。
Q&A
ForgeKernel是什么?它由谁开发?
ForgeKernel是面壁智能智能进化实验室联合OpenBMB社区开源的算子生成系统,是一个无人参与的Agent,能仅凭数学定义和硬件约束自动生成高性能算子。
ForgeKernel在英伟达B200上取得了什么成绩?
ForgeKernel在英伟达B200上,仅用22.5小时、42轮迭代,将DeepSeek的FlashMLA Prefill算子提速9.8%,全程零人类代码,超越了人类手写算子的巅峰。
ForgeKernel在昇腾CANNBench上表现如何?
ForgeKernel同时登顶昇腾CANNBench 950DT、950PR、A3三大硬件榜单第一。在950DT上总分4010.75,领先第二名27.8%;950PR上总分4165.94,基准加速比1.638×;A3上总分4341.16,基准加速比1.898×。
ForgeKernel是如何实现跨硬件平台通用的?
ForgeKernel不依赖特定硬件,其组织优化的方法是通用的,没有为任何芯片预设固定流程。迁移到新硬件时,只需更换性能分析工具(如从NCU换成msprof),硬件知识由模型在芯片上边测边积累。
ForgeKernel相比JustGoal论文的方法有哪些改进?
JustGoal只给模型一个优化目标,不提供算子知识,但模型难以独立设计整体架构。ForgeKernel在JustGoal基础上补足了架构设计短板,通过自进化、主动资源调度等机制,实现了更好的性能。
ForgeKernel生成的算子在实际应用中有哪些价值?
ForgeKernel生成的算子已接入训练框架,在国产芯片上可提速20%~30%,在英伟达上提速5%~10%,能提高国产芯片性价比,缩小与英伟达差距,并已用于MiniCPM5-1B的长训测试。