发布千卡规模异构芯片混训平台,无问芯穹要打造最具性价比的 AI 基础建设 | WAIC 2024

发布千卡规模异构芯片混训平台,无问芯穹要打造最具性价比的 AI 基础建设 | WAIC 2024

💡 原文中文,约1000字,阅读约需3分钟。
📝

内容提要

无问芯穹发布千卡规模异构芯片混训平台,利用率最高达97.6%。已有大模型公司和AI应用创业公司在平台上稳定使用异构算力。构建AI Native基础设施是AI产业可持续发展的关键基石。

🎯

关键要点

  • 无问芯穹发布全球首个千卡规模异构芯片混训平台,算力利用率最高达97.6%。
  • 已有多家大模型公司和AI应用创业公司在Infini-AI平台上稳定使用异构算力。
  • 建设AI Native基础设施是AI产业可持续发展的关键,能够有效降低大模型成本。
  • 中国的模型层与芯片层具有多样性,但也面临技术挑战和算力荒问题。
  • 无问芯穹构建了MxN中间层生态格局,实现多种大模型算法在多元芯片上的高效部署。
  • Infini-AI已支持30多个模型和10余种计算卡,展现出强大的兼容性和灵活性。
  • 夏立雪强调技术上限与技术落地不矛盾,未来AI应用将更加无缝集成各种基础模型和算力。

延伸问答

无问芯穹的千卡规模异构芯片混训平台有什么特点?

该平台的算力利用率最高达97.6%,支持多种大模型算法在多元芯片上的高效部署。

Infini-AI平台目前支持哪些模型和计算卡?

Infini-AI已支持30多个模型,如Qwen2、GLM4等,以及10余种计算卡,包括AMD、华为昇腾等。

构建AI Native基础设施对AI产业有什么重要性?

AI Native基础设施是AI产业可持续发展的关键,能够有效降低大模型成本并整合算力资源。

无问芯穹在技术上面临哪些挑战?

无问芯穹面临的挑战包括异构芯片生态系统的封闭性和技术兼容性问题,这导致算力荒的出现。

夏立雪对未来AI应用的看法是什么?

夏立雪认为未来AI应用将无缝集成各种基础模型和算力,用户不会关心底层技术细节。

无问芯穹的MxN中间层生态格局有什么优势?

MxN中间层生态格局实现了多种大模型算法在多元芯片上的高效、统一部署,提升了兼容性和灵活性。

➡️

继续阅读