刚刚,唐杰发布智谱RSI首个成果

刚刚,唐杰发布智谱RSI首个成果

💡 原文中文,约7900字,阅读约需19分钟。
📝

内容提要

智谱创始人唐杰分享了RSI早期案例:GLM-5.3驱动的Infra Agent在超10万张国产芯片集群上从零搭建并优化生产级推理系统,不到两周将端到端吞吐提升至基线的3.2倍。该Agent能自主读取反馈、提出假设、修改代码并迭代,定位并修复了KV Transfer中Python GIL并发阻塞等问题。唐杰强调尚未实现RSI,目标设定与风险判断仍由人负责。

🔎

延伸解读

RSI的工程化雏形:从概念到生产环境

唐杰分享的案例显示,RSI不再只是抽象讨论,而是有了工程化雏形。GLM-5.3驱动的Infra Agent在超10万张国产芯片集群上,从零搭建并优化生产级推理系统,不到两周将端到端吞吐提升至基线的3.2倍。这标志着AI开始参与构建AI自身的基础设施,但智谱明确强调尚未实现RSI,目标设定与风险判断仍由人负责。

稠密反馈:Agent高效迭代的关键

文章指出,决定Infra Agent工程效果的不仅是模型能力,更在于系统能否提供有效、可归因的反馈。智谱将正确性测试、运行日志、执行Trace、微基准测试等纳入Agent迭代流程,形成“稠密反馈”。这种反馈需足够局部、低成本及时获得、支持客观验证,从而帮助Agent快速定位问题,如发现KV Transfer中Python GIL导致的并发阻塞,将性能损失从20%压到1%以内。

人机协作的边界与工程师角色

尽管Agent能自主读取反馈、提出假设、修改代码并迭代,但工程师仍承担关键职责:定义优化目标与系统约束、构建Agent可直接使用的反馈环境、审核涉及系统架构和线上风险的关键修改。唐杰强调,选择目标、设定边界、判断风险仍是人的工作,且在相当长时间内这条线应由人来守。这体现了当前RSI早期阶段人机协作的明确分工。

Q&A

智谱RSI首个成果具体是什么?

智谱创始人唐杰分享了RSI早期案例:GLM-5.3驱动的Infra Agent在超过10万张国产芯片集群上,从零搭建并优化了一套生产级推理系统,不到两周将端到端吞吐提升至初始基线的3.2倍。

Infra Agent在优化推理系统时解决了哪些具体技术问题?

它定位并修复了KV Transfer场景中Python GIL导致的并发阻塞,将Prefill+KV Transfer相比单独Prefill超过20%的性能损失压到1%以内;还在KDA Decode算子上通过重新组织计算获得1.71倍性能提升。

什么是稠密反馈?它为什么对Infra Agent很重要?

稠密反馈是将正确性测试、运行日志、执行Trace、运行时事件、微基准测试和端到端指标纳入Agent迭代流程,把系统优化拆分为可局部观测和验证的环节。它帮助Agent将稀疏的端到端结果转化为细粒度、可归因的工程反馈,从而指导下一步行动。

智谱是否已经实现了递归自我改进(RSI)?

没有。唐杰明确强调尚未实现RSI,目标设定、边界划定和风险判断仍由人类工程师负责。智谱自己也强调还没有实现RSI。

GLM-5.3-Flash上线后取得了怎样的成绩?

GLM-5.3-Flash以匿名模型“Ox-Alpha”在OpenCode与OpenRouter上接受真实调用检验,上线一周成为双平台调用量最大的模型,6天token调用量超过62万亿。

在优化闭环中,工程师承担了哪些关键职责?

工程师承担三项关键职责:定义优化目标与系统约束,构建Agent可以直接使用的反馈环境,以及审核涉及系统架构、异步并发和线上风险的关键修改。

🏷️

标签

➡️

继续阅读