敢和英伟达现场PK的国产GPU,我是服的

敢和英伟达现场PK的国产GPU,我是服的

💡 原文中文,约5200字,阅读约需13分钟。
📝

内容提要

天数智芯发布天垓300通用GPU与彤央TY1200端侧芯片,现场随机出题与英伟达H200、Jetson Thor T5000实测对比:天垓300在文生图、长上下文推理和训练吞吐上部分领先H200,并支持异构混训;TY1200在端侧大模型和世界模型任务中跑赢Thor。同期发布天数智算软件栈,用Agentic AI简化部署、调优和算子开发,形成云、软件、端协同的算力闭环。

🔎

延伸解读

现场随机出题实测:可复现性比跑分更有说服力

天数智芯此次对比的题目由现场随机挑选的观众给出,而非预先准备。文生图任务中天垓300用时95.6秒,H200为112秒;端侧TY1200在随机提问下响应速度也明显快于Thor T5000。这种公开实测的价值在于可复现,但也需注意单次任务结果受提示词、模型版本和部署环境影响,读者应将其视为特定场景下的参考,而非全面性能结论。

标称算力吃亏,端侧实测反超说明什么

TY1200标称算力为300 TOPS稠密算力,远低于Thor T5000的2070 TFLOPS(FP4稀疏),天数智芯现场也承认粗略换算下不如对手。但实测中TY1200跑Qwen3.8-27B达到Thor的138%,跑英伟达开源世界模型Cosmos-R2-8B更达到180%。这说明端侧实际表现不能只看标称峰值,模型适配、软件优化和任务类型同样关键,也提示读者对比芯片时应关注真实负载下的数据。

异构混训与超节点:降低迁移门槛的务实路线

天垓300支持与H100、H200混合训练,并跑通了国内首个GPU+XPU异构AFD分离方案,由天垓300负责Prefill和Attention、合作厂商XPU负责FFN,实测Decoding推理延迟降低60%。同时IXL144超节点在标准机柜内集成144颗GPU,聚合显存约10.1TB,官方测算每百万有效Token成本可降低约40%。这些设计指向同一目标:让已有英伟达生态的用户不必彻底替换,就能逐步引入国产算力。

软件栈用Agent补生态短板,但落地仍需验证

天数智芯发布的天数智算软件栈以Agentic AI简化部署、调优和算子开发,现场给出的案例包括环境搭建从1小时以上缩短到10分钟内、某大模型调优从约一周压缩到不到2小时、算子适配从10人天降到不到2小时。这些数字来自厂商经验估计和特定任务,实际效果会随模型、框架和团队水平变化。软件生态是国产GPU长期短板,用AI降低使用门槛的方向值得关注,但开发者仍需以自身工作负载验证。

❓

Q&A

天数智芯这次发布了哪些新产品?

天数智芯发布了天垓300通用GPU、彤央TY1200端侧芯片,以及天数智算软件栈。

天垓300和英伟达H200的实测对比结果如何?

在文生图任务中,天垓300用时95.6秒,H200用时112秒;在长上下文推理中,天垓300的Agent首字延迟比H200低10%到30%;在训练吞吐上,天垓300每卡有效吞吐是H100的1.33倍。

彤央TY1200在端侧跑大模型的表现怎么样?

TY1200跑Qwen3.8-27B的性能是Thor T5000的138%,跑Qwen3.6-35B-A3B达到110%;在英伟达世界模型Cosmos上,TY1200跑Cosmos-R2-2B达到Thor的158%,跑R2-8B达到180%。

天数智算软件栈如何用AI简化开发?

软件栈全面拥抱Agentic AI,将经验沉淀为Skills。开发者只需说清目标、定好约束,Agent即可完成环境部署、性能调优、算子开发等任务。例如部署PD分离从人工1小时以上缩短到10分钟内;调优从一周左右缩短到不到2小时;算子开发从10人天缩短到不到2小时。

天垓300支持异构混训吗?

支持。天垓300既能和英伟达H100、H200混合训练,也能和其他厂商芯片搭伙。天数智芯跑通了国内首个GPU+XPU异构AFD分离方案,由天垓300负责Prefill和Attention,合作厂商XPU负责FFN,实测Decoding推理延迟降低60%。

天数智芯为什么同时布局云、软件、端三条线?

天数智芯的逻辑是:云端负责生产智能,软件栈负责让适配和优化跑得更快,端侧负责把智能送进工厂、实验室、医院等真实现场。三者咬合形成算力闭环,实现高效率、可预期、可持续的高质量算力。

🏷️

标签

➡️

继续阅读