全球首个支持单任务千卡规模异构芯片混合训练平台，来自无问芯穹
内容提要
无问芯穹发布了大规模模型的异构分布式混合训练系统，支持多种异构芯片的混合训练。无问芯穹的Infini-AI云平台已集成大模型异构混训能力，支持多种芯片的大模型训练。无问芯穹的技术产品能让开发者们能够有效利用各类算力资源，专注于AI应用创新。
延伸解读
异构混训如何破解“生态竖井”
文章指出，中国芯片层“百花齐放”，但不同硬件生态封闭互不兼容，形成“生态竖井”，导致多芯片集群难以转化为实际算力。无问芯穹通过构建中间层和通用通信库，屏蔽硬件差异，让开发者无需为每种芯片定制代码。这为拥有异构算力的集群方提供了整合思路，但实际效果仍取决于芯片间通信效率和负载均衡策略。
从推理到训练：平台能力升级意味着什么
此前Infini-AI已支持10余种芯片用于推理，此次新增千卡异构混合训练能力，并支持700亿参数模型训练。对开发者而言，这意味着可以在同一平台完成从推理到训练的任务，且能自由组合模型与芯片。但文章也提到，该能力目前通过试训申请开放，并非所有用户可直接使用，实际体验可能受资源调度和集群规模限制。
97.6%算力利用率背后的技术挑战
千卡异构混训集群算力利用率最高达97.6%，这一数字来自无问芯穹与清华、上交联合发布的HETHUB系统。文章解释，异构混训需解决通信库差异和性能差异两大难题，为此团队开发了通用集合通信库、非均匀拆分方案和性能预测工具。高利用率体现了工程优化能力，但文章未说明该数值是在何种任务和配置下测得，读者需注意其适用条件。
对开发者和算力使用方的实际影响
无问芯穹的平台试图让开发者像“淘宝购物”一样组合模型与芯片，无需感知底层硬件差异。这有助于缓解算力不足焦虑，尤其对需要多种芯片资源的中小团队。但文章也暗示，不同模型与芯片组合可能表现出不同行为模式，开发者仍需关注组合后的实际效果。此外，平台已集成30多个模型和10余种计算卡，但具体性能表现可能因组合而异。
Q&A
无问芯穹的Infini-AI云平台支持哪些异构芯片？
Infini-AI云平台支持包括AMD、华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA等六种异构芯片。
Infini-AI云平台的算力利用率是多少？
Infini-AI云平台的算力利用率最高达97.6%。
无问芯穹如何解决异构芯片之间的兼容性问题？
无问芯穹通过建立通用集合通信库和提出非均匀拆分方案来解决异构芯片之间的兼容性问题。
Infini-AI云平台支持多大规模的大模型训练？
Infini-AI云平台已支持700亿参数规模的大模型训练。
无问芯穹的异构分布式混合训练系统有什么特点？
该系统是全球首个支持单任务千卡规模异构芯片混合训练的平台，具备万卡扩展性。
无问芯穹与哪些机构合作开发了HETHUB？
无问芯穹与清华大学和上海交通大学的联合研究团队合作开发了HETHUB。
