发布千卡规模异构芯片混训平台,无问芯穹要打造最具性价比的 AI 基础建设 | WAIC 2024

发布千卡规模异构芯片混训平台,无问芯穹要打造最具性价比的 AI 基础建设 | WAIC 2024

💡 原文中文,约1000字,阅读约需3分钟。
📝

内容提要

无问芯穹发布千卡规模异构芯片混训平台,利用率最高达97.6%。已有大模型公司和AI应用创业公司在平台上稳定使用异构算力。构建AI Native基础设施是AI产业可持续发展的关键基石。

🎯

关键要点

  • 无问芯穹发布全球首个千卡规模异构芯片混训平台,算力利用率最高达97.6%。
  • 已有多家大模型公司和AI应用创业公司在Infini-AI平台上稳定使用异构算力。
  • 建设AI Native基础设施是AI产业可持续发展的关键,能够有效降低大模型成本。
  • 中国的模型层与芯片层具有多样性,但也面临技术挑战和算力荒问题。
  • 无问芯穹构建了MxN中间层生态格局,实现多种大模型算法在多元芯片上的高效部署。
  • Infini-AI已支持30多个模型和10余种计算卡,展现出强大的兼容性和灵活性。
  • 夏立雪强调技术上限与技术落地不矛盾,未来AI应用将更加无缝集成各种基础模型和算力。
➡️

继续阅读