土法炼钢兴趣小组的博客 · 2026-07-29T00:00:00Z 【系统架构设计】AI 原生架构：LLM 时代的系统设计 💡 原文中文，约25800字，阅读约需62分钟。 📝 内容提要 当 LLM 从离线批处理变成在线运行时组件，超时预算、按 token 计费、非确定性输出与多轮 Agent 编排必须进入架构的一等公民。本文从依赖语义差异出发，衔接弹性与过载保护，讨论网关成本治理、结构化输出与人审闸门、checkpoint 恢复与隐私友好的可观测，并划定与 RAG、向量引擎及训练基础设施的分工边界。 🏷️ 标签 ai llm 架构设计 阅读原文 生成长图 分享链接 已复制链接
