量子位
·
曦望发布推理GPU S3：All-in推理的国产GPU，开始算单位Token成本
💡
原文中文，约2100字，阅读约需5分钟。
📝
内容提要
曦望发布了新一代推理GPU芯片启望S3，专注于推理效率和成本，显存容量提升4倍，推理成本下降约90%。同时推出寰望SC3超节点方案，优化推理能力和系统稳定性，推动推理云平台发展，强调降低推理成本的重要性。
🎯
关键要点
- 曦望发布新一代推理GPU芯片启望S3，专注推理效率和成本。
- 启望S3显存容量提升4倍，推理成本下降约90%。
- 曦望选择不追求峰值训练性能，而是专注于推理效率与单位成本。
- 启望S3支持多精度灵活切换，最大化低精度推理效率。
- S3采用LPDDR6显存方案，缓解显存瓶颈。
- 推出寰望SC3超节点方案，提升推理系统稳定性与利用率。
- 寰望SC3支持全液冷设计，降低系统交付成本。
- 曦望构建与CUDA兼容的软件体系，降低推理应用迁移门槛。
- 曦望与生态伙伴探索推理云平台，整合算力为统一推理算力池。
- 推理时代的核心在于持续降低推理成本，掌握AI产业的成本曲线。
➡️
