内容提要
沙利文报告显示,商汤大装置在Neocloud赛道占据近半份额。其核心是从算力出租转向Token工厂,日均Token从年初4000亿增至9月底6万亿。面对国产芯片碎片化,商汤以PD分离实现异构混推,推理性价比达高端GPU的1.25倍;并通过算电协同降低用电成本,单位电力Token产出提升80%。同时以FDE驻场模式推动AI落地行业,未来将加码国产芯片生态。
延伸解读
从“卖算力”到“卖Token”:计量单位变了
文章指出,AI负载从训练转向推理和Agent应用后,客户关注点从集群规模转向单位Token成本、推理延迟和调度效率。商汤大装置日均Token从年初4000亿增至9月底6万亿,说明其产品形态已从算力出租转向Token工厂。这提示读者:评估Neocloud时,不能只看卡的数量,更要看把算力稳定转化为低成本Token的能力。
PD分离:用异构混推盘活国产芯片
面对国产芯片路线多元、生态尚在成熟的碎片化局面,商汤采用PD分离,把Prefill交给国产卡、Decode交给高端GPU,通过KV Cache传递中间结果。文章称其整体推理性价比达主流高端GPU的1.25倍,但超长上下文仍由高端GPU兜底。这说明异构混推的关键不是单卡追平,而是按任务环节分工,同时也要注意其适用边界。
算电协同:电费账本里的Token效率
文章介绍商汤用算电协同Agent联动能源大模型和储能系统,每15分钟预测、每5分钟修正,把离线推理等任务挪到电力负荷低时运行。效果是单位电力成本Token产出提升80%,平均电费比同地区IDC低10%,并提出TPW指标。这提醒读者,Neocloud的成本竞争不只在芯片,电力调度和储能策略同样影响单位Token的经济性。
FDE驻场与“AI123”:落地能力也是壁垒
文章提到商汤以FDE驻场模式深入行业客户,并总结出“AI123”交付法则:1天澄清需求、2天产出Demo、30天稳定版本上线。以上海市规划资源局项目为例,双方共建6000亿参数的“云宇星空大模型”。这说明Token工厂要真正产生价值,还需把模型接进企业流程;但文章也强调商汤不希望变成人力密集型系统集成商,模式能否标准化仍需观察。
Q&A
商汤大装置在Neocloud赛道占据多少市场份额?
根据沙利文和头豹研究院发布的《中国全栈AI云服务市场报告2026H1》,商汤大装置在Neocloud(新云)赛道占据近50%的份额。
商汤大装置的Token日均调用量增长情况如何?
商汤大装置日均Token从今年年初的4000亿增长到7月底的2.42万亿,9月底达到6万亿,计划第四季度冲到日均10万亿。
商汤大装置如何应对国产芯片碎片化的问题?
商汤大装置采用PD分离(Prefill-Decode Disaggregation)实现异构混推,将大模型推理的Prefill和Decode阶段拆分到不同芯片上,让国产卡负责Prefill,高端GPU负责Decode,从而发挥各自优势,整体推理性价比达到主流高端GPU的1.25倍。
商汤大装置的算电协同具体是怎么做的?
商汤大装置发布算电协同Agent,联动能源大模型和宁德时代储能系统,每15分钟预测、每5分钟修正,动态调整任务运行时间和储能充放电策略,在不影响SLA的前提下降低用电成本,使单位电力Token产出提升80%,平均电费比同地区IDC低10%。
商汤大装置的FDE模式是什么?
FDE(前线部署工程师)驻场模式是商汤大装置派工程师深入客户业务一线,与客户一起梳理需求、调模型、推动上线,帮助AI真正落地行业。该模式已应用于上海市规划资源局量子城市项目,并总结出“AI123”交付法则:1天澄清需求,2天产出Demo,30天稳定版本上线。
商汤大装置未来在国产芯片生态上有哪些计划?
商汤大装置CTO宣善明表示,未来会把更多精力和资源放在国产芯片上,和国产芯片、国产生态一起往前走,加速国产算力从落地可用到规模化盈利。