无问芯穹在WAIC发布跨集群异构推理架构PDD,通过“P-RLD-MD”三级分离设计,利用本地中继掩盖以太网KV Cache传输延迟。实测首Token延迟降低51.5%,单Token成本降37.5%,有效提升异构算力调度效率,释放存量集群价值。
商汤科技与国信数算签署战略合作,共建全国一体化算力网试验场,聚焦算力调度、国产AI芯片生态等四个方向,推动算力资源协同与规模化落地。
PPIO近日获得InfoQ 2025年度AI基础设施卓越奖,因其在分布式算力调度和模型推理加速方面的技术贡献。该奖项旨在表彰在AI创新和产业落地中表现突出的企业。PPIO通过整合多款开源模型和自研技术,提升Agent开发效率,推动AI行业发展。
随着广告业务复杂性增加,MaRCA(基于多智能体强化学习的全链路算力调度)应运而生。该系统通过预估用户价值、算力和动作价值,优化算力分配,提升广告消费和系统稳定性。实验显示,在资源不变的情况下,MaRCA实现了14.93%的广告消费增长,未来将引入模型预测控制和扩展决策变量,以应对复杂流量环境。
完成下面两步后,将自动完成登录并继续当前操作。