内容提要
天数智芯发布天垓300通用GPU与彤央TY1200端侧芯片,现场随机出题与英伟达H200、Jetson Thor T5000实测对比:天垓300在文生图、长上下文推理和训练吞吐上部分领先H200,并支持异构混训;TY1200在端侧大模型和世界模型任务中跑赢Thor。同期发布天数智算软件栈,用Agentic AI简化部署、调优和算子开发,形成云、软件、端协同的算力闭环。
延伸解读
现场随机出题实测:可复现性比跑分更有说服力
天数智芯此次对比的题目由现场随机挑选的观众给出,而非预先准备。文生图任务中天垓300用时95.6秒,H200为112秒;端侧TY1200在随机提问下响应速度也明显快于Thor T5000。这种公开实测的价值在于可复现,但也需注意单次任务结果受提示词、模型版本和部署环境影响,读者应将其视为特定场景下的参考,而非全面性能结论。
标称算力吃亏,端侧实测反超说明什么
TY1200标称算力为300 TOPS稠密算力,远低于Thor T5000的2070 TFLOPS(FP4稀疏),天数智芯现场也承认粗略换算下不如对手。但实测中TY1200跑Qwen3.8-27B达到Thor的138%,跑英伟达开源世界模型Cosmos-R2-8B更达到180%。这说明端侧实际表现不能只看标称峰值,模型适配、软件优化和任务类型同样关键,也提示读者对比芯片时应关注真实负载下的数据。
异构混训与超节点:降低迁移门槛的务实路线
天垓300支持与H100、H200混合训练,并跑通了国内首个GPU+XPU异构AFD分离方案,由天垓300负责Prefill和Attention、合作厂商XPU负责FFN,实测Decoding推理延迟降低60%。同时IXL144超节点在标准机柜内集成144颗GPU,聚合显存约10.1TB,官方测算每百万有效Token成本可降低约40%。这些设计指向同一目标:让已有英伟达生态的用户不必彻底替换,就能逐步引入国产算力。
软件栈用Agent补生态短板,但落地仍需验证
天数智芯发布的天数智算软件栈以Agentic AI简化部署、调优和算子开发,现场给出的案例包括环境搭建从1小时以上缩短到10分钟内、某大模型调优从约一周压缩到不到2小时、算子适配从10人天降到不到2小时。这些数字来自厂商经验估计和特定任务,实际效果会随模型、框架和团队水平变化。软件生态是国产GPU长期短板,用AI降低使用门槛的方向值得关注,但开发者仍需以自身工作负载验证。
Q&A
天数智芯这次发布了哪些新产品?
天数智芯发布了天垓300通用GPU、彤央TY1200端侧芯片,以及天数智算软件栈。
天垓300和英伟达H200的实测对比结果如何?
在文生图任务中,天垓300用时95.6秒,H200用时112秒;在长上下文推理中,天垓300的Agent首字延迟比H200低10%到30%;在训练吞吐上,天垓300每卡有效吞吐是H100的1.33倍。
彤央TY1200在端侧跑大模型的表现怎么样?
TY1200跑Qwen3.8-27B的性能是Thor T5000的138%,跑Qwen3.6-35B-A3B达到110%;在英伟达世界模型Cosmos上,TY1200跑Cosmos-R2-2B达到Thor的158%,跑R2-8B达到180%。
天数智算软件栈如何用AI简化开发?
软件栈全面拥抱Agentic AI,将经验沉淀为Skills。开发者只需说清目标、定好约束,Agent即可完成环境部署、性能调优、算子开发等任务。例如部署PD分离从人工1小时以上缩短到10分钟内;调优从一周左右缩短到不到2小时;算子开发从10人天缩短到不到2小时。
天垓300支持异构混训吗?
支持。天垓300既能和英伟达H100、H200混合训练,也能和其他厂商芯片搭伙。天数智芯跑通了国内首个GPU+XPU异构AFD分离方案,由天垓300负责Prefill和Attention,合作厂商XPU负责FFN,实测Decoding推理延迟降低60%。
天数智芯为什么同时布局云、软件、端三条线?
天数智芯的逻辑是:云端负责生产智能,软件栈负责让适配和优化跑得更快,端侧负责把智能送进工厂、实验室、医院等真实现场。三者咬合形成算力闭环,实现高效率、可预期、可持续的高质量算力。