内容提要
阿里云栖大会发布最强AI芯片真武V900,性能达M890三倍。平头哥同步开源AI软件栈T-Head SAIL,扩大框架适配、加速库、工具链开放,解决迁移成本、性能优化和新模型适配问题。真武已服务650多家客户,小红书、小鹏、蚂蚁等基于SAIL开发工具。大厂造芯正从交付芯片走向开放共建生态。
延伸解读
软件栈决定芯片实际可用性
平头哥将AI芯片比作发动机,软件栈则是变速箱和传动系统。真武V900性能再强,若软件无法让模型顺利迁移、运行和优化,实际算力也难以发挥。T-Head SAIL开源框架适配、迁移工具和加速库,正是为了解决客户换芯时最关心的迁移成本和性能优化问题,让芯片从纸面参数走向业务可用。
开源让客户从使用者变为共建者
小红书基于SAIL开源代码开发了模型迁移与算子优化Agent,小鹏和蚂蚁也借助SAIL完成业务迁移与持续调优。开源后,客户可以查看和修改代码,针对自身业务优化性能,甚至将改进贡献回社区。这改变了以往完全依赖芯片厂商优化的模式,使生态在客户参与中逐步积累。
开放背后的维护与协作挑战
代码开放后,平头哥仍需承担组件解耦发布、社区评审和长期维护等工作。将适配提交回PyTorch、vLLM等上游社区,虽能减少独立维护负担,但也要求建立持续的协作能力。开放扩大了参与范围,同时也对厂商的长期投入和社区治理提出了更高要求。
Q&A
平头哥在云栖大会上发布的最强AI芯片是什么?性能如何?
平头哥在云栖大会上发布了新一代AI芯片真武V900,阿里巴巴集团CEO吴泳铭称其为目前中国算力性能最强的AI芯片,性能达到M890的3倍。
T-Head SAIL是什么?它有什么作用?
T-Head SAIL是平头哥围绕真武AI芯片打造的一套类CUDA软件栈,连接PyTorch等上层AI框架和底层真武硬件,负责模型迁移、编译执行、计算加速和开发调试。
T-Head SAIL开源了哪些具体项目?
已开源项目包括PyTorch-for-sail框架适配、sailify源码迁移工具、Triton-for-sail算子开发工具,以及DeepGEMM-for-sail、FlashAttention-for-sail等计算加速项目。
平头哥开源T-Head SAIL主要想解决开发者的哪些问题?
主要解决三个关键问题:1. 降低迁移成本,让开发者保留原有代码和工具积累;2. 支持性能优化,开发者可查看和修改加速库实现,自行调优;3. 加速新模型适配,提供已适配模型资源,争取Day 0可用。
有哪些企业已经使用了T-Head SAIL?他们分别用来做什么?
小鹏汽车借助SAIL将GPU平台业务模型迁到真武云端集群进行智能驾驶模型训练;蚂蚁集团基于SAIL在真武810E和M890上完成前沿模型推理适配和持续调优;小红书基于SAIL开源代码开发了模型迁移与算子优化Agent,加速生成式推荐模型部署。
平头哥为什么选择在这个时间点扩大开源?
真武芯片已服务650多家客户,产品得到验证,客户二次开发需求增多;同时,将适配提交回上游社区可减少长期维护独立版本的成本,让真武支持随主流软件演进。