量子位
·
英伟达新GPU，超长上下文/视频生成专用
💡
原文中文，约1900字，阅读约需5分钟。
📝
内容提要
英伟达推出新GPU Rubin CPX，专为百万token级代码生成和视频应用设计，具备30PFLOPS算力和128GB内存，显著提升上下文处理能力。预计2026年底正式发布，将改变AI推理能力。
🎯
关键要点
- 英伟达推出新GPU Rubin CPX，专为百万token级代码生成和视频应用设计。
- Rubin CPX是首款为超大上下文AI量身定制的CUDA GPU，具备30PFLOPS算力和128GB内存。
- Rubin CPX在处理长上下文序列时，注意力机制处理速度提升3倍。
- 与NVIDIA A100相比，Rubin CPX在算力和内存方面均有显著提升。
- Rubin CPX可与NVIDIA Vera CPU和Rubin GPU协同工作，构成全新的NVIDIA Vera Rubin NVL144 CPX平台。
- 预计Rubin CPX将在2026年底正式发布，将改变AI推理能力。
- Rubin CPX将视频解码、编码和长上下文推理处理集成在单芯片中，提升视频处理能力。
❓
延伸问答
Rubin CPX GPU的主要特点是什么？
Rubin CPX GPU专为百万token级代码生成和视频应用设计，具备30PFLOPS算力和128GB内存，显著提升上下文处理能力。
Rubin CPX与NVIDIA A100相比有哪些优势？
Rubin CPX在算力和内存方面均有显著提升，算力可达30PFLOPS，内存为128GB，而A100仅有40GB或80GB内存。
Rubin CPX预计何时发布？
Rubin CPX预计将在2026年底正式发布。
Rubin CPX如何提升视频处理能力？
Rubin CPX将视频解码、编码和长上下文推理处理集成在单芯片中，提供前所未有的视频处理能力。
Rubin CPX的内存容量对其性能有何影响？
内存容量至关重要，Rubin CPX的128GB内存允许一次性加载数百万token的权重和计算结果，避免分批处理带来的速度影响。
Rubin CPX的设计架构是什么？
Rubin CPX基于NVIDIA Rubin架构，采用单片设计，内置NVFP4计算资源，专注于高性能和高能效的AI推理。
➡️
