英伟达提出“全栈协同设计”以应对AI内存压力：模型参数、KV缓存和RAG数据激增使HBM容量与带宽成为瓶颈。其方案包括用NVFP4压缩权重与KV缓存、在NVL72内分布式存放权重、借助Vera CPU和Dynamo软件将闲置上下文卸载至CMX存储层，并让RAG索引留在HBM之外，从而提升每字节内存的有效产出。结果显示，Vera Rubin NVL72每美元吞吐量较GB300 NVL72最高提升30倍，而每GPU的HBM容量仅增约3%。