随着推理模型的发布，复杂问题的解决可通过标准API实现。然而，依赖大型语言模型（LLM）作为中间件会导致可扩展性瓶颈，缺乏共享语义层的通用代理架构使得系统难以有效处理多跳推理，最终输出不可靠。构建可扩展产品需关注上下文层、编排层和治理层，以避免“胶水代码”问题。