内容提要
在FMS大会上,NVIDIA展示了AI对存储的新需求,推出开源cuFile API,使GPU能直接高速访问存储。同时,NVIDIA联合40多家厂商发起Storage-Next计划,通过SCADA框架实现安全、高效的GPU直连存储,提升AI数据处理性能,满足AI工厂对大规模数据的需求。
延伸解读
存储从被动到主动:AI数据路径的变革
文章指出,传统存储被视为被动存放数据的地方,而加速计算使存储成为数据路径中的主动部分。这改变了40年前关于数据应放在内存还是存储的权衡——当时访问时间以分钟计,如今GPU配合AI存储方案可在微秒级完成。这一转变意味着存储系统不再只是容量问题,而是需要与计算深度协同设计,以匹配AI对数据访问速度和并发操作的需求。
cuFile开源的意义:安全与互操作性
NVIDIA将cuFile API及其底层软件栈开源,使GPU能直接读写存储,并强调安全优先。开源有助于统一基于Linux的安全存储栈,促进GPU与数据之间的互操作性。文章还提到,快速安全的数据访问是AI驱动网络安全的基础,而开源技术也支持了Open Secure AI Alliance等新倡议,由Google、Intel、NVIDIA和Meta等作为初始维护者,推动跨平台创新。
Storage-Next与SCADA:行业协作与安全直连
Storage-Next计划联合40多家存储和闪存厂商,旨在制定GPU驱动存储的开放标准。SCADA框架则通过将用户应用与特权组件分离,实现安全的大规模GPU直连存储,既保证速度又防止安全漏洞。例如DDN的Infinia平台集成SCADA,以消除存储瓶颈。这表明行业正通过协作和标准化,推动AI存储基础设施向高效、安全的方向发展。
Q&A
NVIDIA在FMS大会上发布了哪些与AI存储相关的新技术?
NVIDIA在FMS大会上宣布开源cuFile API,并联合40多家厂商推出Storage-Next计划,同时展示了SCADA框架和NVIDIA Vera BlueField-4 STX等存储解决方案。
cuFile API是什么?它有什么作用?
cuFile API是NVIDIA GPUDirect Storage的开源组件,允许GPU直接读写存储,无需CPU介入,从而以微秒级延迟安全访问数据,提升AI数据处理性能。
Storage-Next计划是什么?有哪些厂商参与?
Storage-Next是NVIDIA发起的计划,联合存储制造商、控制器厂商、散热和编排运营商等40多家厂商,共同制定GPU驱动存储的开放标准。参与厂商包括DDN、KIOXIA和Micron等。
SCADA框架是如何实现安全、高效的GPU直连存储的?
SCADA框架将用户应用分为两部分:需要高速的用户部分留在可信计算基之外,而一个特权组件在设置时配置用户应用与存储之间的受保护访问,遵循Linux安全协议,从而在实现大规模并行GPU直接访问存储的同时确保安全。
NVIDIA Vera CPU在存储性能上相比x86 CPU有何优势?
在两级压缩和加密流水线中,NVIDIA Vera CPU的吞吐量比x86 CPU高出最多3.21倍,使存储平台能更高效地处理AI数据洪流,减少计算基础设施需求。
AI对存储的需求带来了哪些挑战?
AI代理消耗大量数据,GPU可直接发起存储请求,产生数千个并发操作,存储系统需持续加密、压缩、验证和重建数据,这些数据服务可能成为瓶颈,导致存储架构压力增大。
NVIDIA CMX Context Memory Storage是什么?
NVIDIA CMX Context Memory Storage是构建在NVIDIA STX上的AI原生上下文存储层,用于支持长上下文、多轮、代理式AI推理。