发布千卡规模异构芯片混训平台，无问芯穹要打造最具性价比的 AI 基础建设 | WAIC 2024
内容提要
无问芯穹发布千卡规模异构芯片混训平台，利用率最高达97.6%。已有大模型公司和AI应用创业公司在平台上稳定使用异构算力。构建AI Native基础设施是AI产业可持续发展的关键基石。
延伸解读
异构混训：破解算力荒的关键路径
文章指出，中国模型层与芯片层具有多样性，但异构芯片形成“生态竖井”，不同硬件生态系统封闭且互不兼容，导致算力使用面临技术挑战，这也是“算力荒”的重要原因。无问芯穹通过构建“MxN”中间层生态格局，实现多种大模型算法在多元芯片上的高效统一部署，从而整合算力资源，缓解算力荒问题。
Infini-AI平台：兼容性与实用性的验证
Infini-AI平台已支持30多个模型和10余种计算卡，包括AMD、华为昇腾、壁仞、寒武纪等国产芯片，展现出强大的兼容性和灵活性。已有智谱AI、月之暗面、生数科技等大模型公司客户稳定使用异构算力，20余家AI应用创业公司持续调用预置模型API，表明平台在实际业务中得到了初步验证。
AI Native基础设施：降低大模型成本的核心
无问芯穹认为，优良的基础设施能够有效降低大模型成本，让更多人拥抱新技术。建设AI Native基础设施不仅为开发者提供通用、高效、便捷的研发环境，也是实现算力资源有效整合、支撑AI产业可持续发展的关键基石。夏立雪强调，技术上限推高与技术落地扩散不矛盾，未来AI应用将无缝集成各种基础模型和算力。
Q&A
无问芯穹的千卡规模异构芯片混训平台有什么特点？
该平台的算力利用率最高达97.6%，支持多种大模型算法在多元芯片上的高效部署。
Infini-AI平台目前支持哪些模型和计算卡？
Infini-AI已支持30多个模型，如Qwen2、GLM4等，以及10余种计算卡，包括AMD、华为昇腾等。
构建AI Native基础设施对AI产业有什么重要性？
AI Native基础设施是AI产业可持续发展的关键，能够有效降低大模型成本并整合算力资源。
无问芯穹在技术上面临哪些挑战？
无问芯穹面临的挑战包括异构芯片生态系统的封闭性和技术兼容性问题，这导致算力荒的出现。
夏立雪对未来AI应用的看法是什么？
夏立雪认为未来AI应用将无缝集成各种基础模型和算力，用户不会关心底层技术细节。
无问芯穹的MxN中间层生态格局有什么优势？
MxN中间层生态格局实现了多种大模型算法在多元芯片上的高效、统一部署，提升了兼容性和灵活性。
