华为发布OceanStor M900 AI记忆存储,单集群64PB容量

💡 原文中文,约600字,阅读约需2分钟。
📝

内容提要

华为发布OceanStor M900 AI记忆存储,面向超大规模数据中心AI推理,提供PB级全共享记忆空间。单集群容量64PB,KV Cache从GB级提升至TB级,时延降至60μs,带宽40TB/s,推理吞吐翻倍、首Token时延减半,并采用KV-Aware技术延长SSD寿命。

🏷️

标签

➡️

继续阅读