➡️
继续阅读
-
HyperAI 上新丨MCP接入开发工作流;PyTorch/AI for Beginners/TVM等系列教程上线;AI顶会资源检索功能再升级
HyperAI平台推出三项更新:上线MCP服务器,支持在Claude Code和Cursor中通过自然语言管理算力、数据集等资源;新增AI顶会(如AAAI...
-
AI原生工程实践:AI工程师与前沿部署工程师如何利用Claude Code、Codex和Gemini进行开发
本文介绍AI原生软件开发生命周期(SDLC)框架,涵盖计划、设计、构建、测试、部署、维护六阶段。核心是通过意图、规格、计划等文档驱动开发,将瓶颈从编码转向...
-
Switchyard:NVIDIA的开源路由库
NVIDIA NeMo Switchyard是一个开源路由层,位于AI代理和模型之间,按请求智能选择模型以降低成本。教程演示了从随机路由到内容感知路由的升...
-
华为云码道Space重磅公测:AI驱动泛研发提效,开启全民开发创造新时代!
华为云推出码道Space,一款面向泛研发场景的一站式AI工作台,融合AI专家与技能,覆盖软件开发、设计、数据分析、办公等场景,支持文档处理、全栈编码、代码...
-
推理服务的缓存与调度:前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级,因此设计围绕复用展开:单实例内通过块哈希实现前缀缓存;KV池采用writ...
-
显存账本:每张卡上住着什么,搬走付什么
本文介绍训练大模型时显存管理的通用记账方法。显存分为五类:权重、梯度、优化器状态、激活和通信缓冲。前三类由参数量和并行度决定,激活随输入长度增长,优化空间...