小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
沉浸式翻译 immersive translate
Dify.AI
让Token生产更高效:异构混推的关键技术演进与创新实践

商汤大装置针对Token需求爆发,以“Token、状态与时延预算”为核心设计推理系统,日均Token服务量从2月的0.46万亿增长至8月的4.5万亿。通过横向编排统一异构算力、纵向优化模型引擎与芯片,并推进动态资源池和模块级资源池演进,提升吞吐并降低成本。

让Token生产更高效:异构混推的关键技术演进与创新实践

量子位 量子位 · 2026-09-23T09:56:53Z
IDC评估中国AI算力管理平台:范式智能四项维度获满分,综合评分第一

IDC发布2026中国AI算力管理平台评估,范式在算力资源管理、运维、技术架构、交付服务四个维度均获满分,综合排名第一。报告指出AI基础设施正向“云原生+Agent协同”转型,异构算力统一管理、调度与运营成为关键能力。范式已适配十余家主流芯片,支持大规模训练与高并发推理混合部署。

IDC评估中国AI算力管理平台:范式智能四项维度获满分,综合评分第一

量子位 量子位 · 2026-09-21T02:17:33Z
无问芯穹与华环电子签署战略合作,共同探索国产异构算力AI基础设施新方向

9月17日,无问芯穹与华环电子签署战略合作,围绕AI基础设施深化协同,结合异构算力管理与网络通信优势,联合探索智算中心解决方案和“Token工厂”新模式,推动国产异构算力规模化落地。

无问芯穹与华环电子签署战略合作,共同探索国产异构算力AI基础设施新方向

量子位 量子位 · 2026-09-18T15:58:21Z
数据不能集中,算力也不统一:联邦学习终于面对运维现实

NVIDIA发布FLARE 2.9,支持Docker、Kubernetes和Slurm异构算力,将长期协调层与临时训练作业解耦,各站点保留本地调度权。这降低了跨机构联邦学习的前置改造成本,但开发者需应对镜像可移植性、重试幂等和跨后端可观测性难题。异构运行时不等于隐私安全,梯度泄露、投毒和性能公平仍需单独治理。

数据不能集中,算力也不统一:联邦学习终于面对运维现实

Java for You Java for You · 2026-09-17T04:36:01Z
迅策科技发布TokenCloud一站式AI模型训推算力平台

迅策科技发布TokenCloud一站式AI模型训推算力平台,以异构算力为基础,构建四层协同生态,打通数据到Token全链路。平台支持GPU、NPU等统一调度,覆盖百卡至万卡,采用云边协同确保数据安全,并已拓展至金融、电信等十一大行业,2026年上半年在生物医药等领域落地。

迅策科技发布TokenCloud一站式AI模型训推算力平台

全球TMT-美通国际 全球TMT-美通国际 · 2026-09-04T05:51:16Z
国产算力正在进入Token标准化时代

国产算力的瓶颈在于异构算力向Token的转化能力。石科技专注于优化这一过程,推动国产AI算力市场发展。2026年被视为关键年,行业需通过标准化适配和生态协同解决适配难题。Token将成为AI时代的重要生产资料,未来重塑市场竞争格局。

国产算力正在进入Token标准化时代

量子位 量子位 · 2026-06-18T01:45:19Z
四通集团加入中国智能计算产业联盟,出任理事单位

在第七届中国超级算力大会上,四通集团荣获“2025中国算力卓越企业”奖,并加入中国智能计算产业联盟。四通将与产业链伙伴合作,推动异构算力标准与架构建设,利用STONETEK G5208 AIO系列和SpiritX知识库平台,构建从芯片到应用的闭环能力,促进智能化应用落地。

四通集团加入中国智能计算产业联盟,出任理事单位

全球TMT-美通国际 全球TMT-美通国际 · 2025-11-12T08:24:58Z
基于 HAMi 实现亚马逊云科技 Trainium 与 Inferentia 核心级共享与策略性拓扑调度

亚马逊云科技的HAMi中间件通过支持多种加速设备(如Neuron芯片),实现了异构算力的统一管理与调度。其核心特性包括双重粒度共享和策略性拓扑调度,显著提升资源利用率并降低运维复杂度。HAMi v2.7.0深度集成Neuron芯片,优化调度策略,确保高效算力调度体验。

基于 HAMi 实现亚马逊云科技 Trainium 与 Inferentia 核心级共享与策略性拓扑调度

亚马逊AWS官方博客 亚马逊AWS官方博客 · 2025-11-06T07:15:27Z
白山云边缘算力分发平台正式发布,以“算力普惠化”助力AIGC产业变革

白山云科技推出边缘算力分发平台,提供全球异构算力服务,支持GPU容器、弹性算力和裸金属租赁,满足企业多样化需求,具备动态伸缩和按需租用功能,助力AI推理与应用创新,降低成本,提高效率。

白山云边缘算力分发平台正式发布,以“算力普惠化”助力AIGC产业变革

实时互动网 实时互动网 · 2025-03-03T02:25:08Z
不卡顿、免费的满血版DeepSeek-R1 API,在无问芯穹这里用上了,更有异构算力鼎力相助

无问芯穹大模型服务平台上线了DeepSeek-R1和V3,用户可免费使用Token,无需邀请。平台支持多种异构算力服务,企业可按需购买并发服务包,确保稳定性。DeepSeek-R1与Cursor结合,提升开发效率,提供API接入教程,支持多芯片优化,欢迎开发者体验。

不卡顿、免费的满血版DeepSeek-R1 API,在无问芯穹这里用上了,更有异构算力鼎力相助

机器之心 机器之心 · 2025-02-11T06:41:07Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码