小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
让Token生产更高效:异构混推的关键技术演进与创新实践

商汤大装置针对Token需求爆发,以“Token、状态与时延预算”为核心设计推理系统,日均Token服务量从2月的0.46万亿增长至8月的4.5万亿。通过横向编排统一异构算力、纵向优化模型引擎与芯片,并推进动态资源池和模块级资源池演进,提升吞吐并降低成本。

让Token生产更高效:异构混推的关键技术演进与创新实践

量子位 量子位 · 2026-09-23T09:56:53Z
中国Neocloud市场第一!商汤大装置全面领跑

沙利文报告显示,商汤大装置以近50%份额位居中国Neocloud市场第一。报告称2026年为Agentic AI元年,算力需求将提升十倍以上,Neocloud价值凸显。商汤具备端到端系统化、超大规模集群稳定运行、算电协同、国产算力生态及Token服务等优势,日均Token服务量达4.5万亿,并联合伙伴发起“银河计划”共建国产AI基础设施生态。

中国Neocloud市场第一!商汤大装置全面领跑

量子位 量子位 · 2026-09-21T03:32:03Z
商汤大装置助力智象未来实现视频生成业务向国产算力无感迁移

商汤大装置与智象未来合作,成功实现国产算力支持视频生成规模化应用。通过LightX2V多卡并行优化,加速比达93%,并解决多卡效果一致性问题。构建统一硬件抽象体系,支持10余种异构芯片零成本迁移,配合FDE专家服务,实现从适配到生产的完整闭环,推动国产算力从“能用”迈向“好用”。

商汤大装置助力智象未来实现视频生成业务向国产算力无感迁移

量子位 量子位 · 2026-08-28T04:09:39Z
智谱 GLM-5.3-Flash上线,商汤大装置提供国产算力支持

智谱发布并开源GLM-5.3-Flash多模态模型,性能超GLM-5.2,与Claude Opus 4.8持平。商汤大装置提供国产算力支持,通过异构混推技术提升服务性能3倍,成本与英伟达GPU相当,推动国产算力规模化商用,日均Token服务量达2.42万亿。

智谱 GLM-5.3-Flash上线,商汤大装置提供国产算力支持

量子位 量子位 · 2026-08-28T04:06:16Z
供需失衡的窗口期里,商汤大装置把国产算力做成了正毛利生意

商汤大装置在WAIC展示国产算力成果,通过异构混合推理组合高端与国产芯片,算力利用率提升85%-152%,单位成本Token产出提升2.5倍。其端到端整合策略从硬件到电力协同,实现高毛利增长,并计划扩展至太空算力等领域。

供需失衡的窗口期里,商汤大装置把国产算力做成了正毛利生意

量子位 量子位 · 2026-07-19T06:56:25Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码