💡
原文中文，约5200字，阅读约需13分钟。
📝
内容提要
英伟达计划通过Vera Rubin架构实现GPU直接管理存储，形成HBM、HBF和SSD三层内存结构。这将提升AI服务器性能，减轻CPU负担，闪存厂商将受益。HBF适合存储不常修改的模型参数，未来可能改变内存市场格局。预计2026年开始商业化。
🎯
关键要点
-
英伟达计划通过Vera Rubin架构实现GPU直接管理存储，形成HBM、HBF和SSD三层内存结构。
-
HBF适合存储不常修改的模型参数，预计将改变内存市场格局。
-
这一新结构将提升AI服务器性能，减轻CPU负担，闪存厂商将受益。
-
预计2026年开始商业化，HBF将成为HBM的补充，而非替代。
-
HBF的优势在于存储密度高，但写入寿命较短，适合只读的模型参数。
-
英伟达的GIDS技术将使显卡直接发起存储访问，减少CPU的干预。
-
HBF的应用场景包括存储推理用的模型参数和超长上下文推理。
-
商业化进程将分阶段进行，2026年将推出原型，2027年实现商业化。
❓
延伸问答
英伟达Vera Rubin架构的主要创新是什么？
英伟达Vera Rubin架构的主要创新是实现GPU直接管理存储，形成HBM、HBF和SSD三层内存结构。
HBF在内存结构中扮演什么角色？
HBF适合存储不常修改的模型参数，是HBM的补充，主要用于提高存储密度。
这一新内存结构对AI服务器性能有什么影响？
新内存结构将提升AI服务器性能，减轻CPU负担，优化数据处理效率。
HBF的优势和限制是什么？
HBF的优势在于存储密度高，但写入寿命较短，适合只读的模型参数。
预计HBF何时会商业化？
HBF预计将在2026年开始商业化，2027年实现更广泛的应用。
英伟达的GIDS技术有什么特点？
GIDS技术允许显卡直接发起存储访问，减少CPU的干预，改变数据控制路径。
➡️
