浪潮信息发布面向万亿参数大模型的超节点AI服务器

浪潮信息发布面向万亿参数大模型的超节点AI服务器

💡 原文中文,约600字,阅读约需2分钟。
📝

内容提要

浪潮信息于8月7日发布了支持万亿参数大模型的“元脑SD200”超节点AI服务器,具备64路本土GPU高速互连和超低延迟通信,已实现商用,性能优异。

🎯

关键要点

  • 浪潮信息于8月7日发布了支持万亿参数大模型的超节点AI服务器“元脑SD200”。
  • 元脑SD200基于多主机低延迟内存语义通信架构,支持64路本土GPU芯片。
  • 该服务器可实现单机内运行超万亿参数大模型,并支持多个大模型同时运行及多智能体实时协作。
  • 元脑SD200已实现商用,评测中表现出超线性扩展性能。
  • 采用开放总线交换技术,元脑SD200实现64路GPU高速互连。
  • 通过远端GPU虚拟映射技术,显存统一地址空间扩增8倍,最大提供4TB显存和64TB内存。
  • 构建百纳秒级超低延迟链路,实现统一原生内存语义通信。
  • 开发智能总线管理系统,支持超节点64卡全局最优路由的自动创建。
  • 支持不同拓扑切换和资源按需切分,开展细粒度通信策略设计。
➡️

继续阅读