本文探讨AI原生架构中LLM作为运行时依赖的工程挑战，涵盖与传统RPC的差异、超时与预算传播、成本治理、不确定输出校验、Agent编排与checkpoint、可观测性及与RAG的边界。核心观点：LLM调用需分层管理，采用双级超时、token预算、schema硬闸门、人审机制及决策模式追踪，并给出优先级建议。

根据Flexer的调查，超过70%的企业重度使用云服务，但有约30%的云成本支出被认为是无效支出。华为云提供云原生FinOps解决方案，包括成本洞察、成本优化和成本运营。

阿里云容器服务ACK提供成本治理功能，包括成本洞察、成本优化和成本控制。通过多维度的成本视角和智能推荐配置，用户可以洞察和优化集群中的业务成本。成本控制功能提供周报和费用趋势预测，帮助用户进行成本控制。解决分账、管理和优化难题，合理规划资源和成本。通过成本洞察和智能弹性策略，找出成本浪费并进行优化，提升资源利用率和系统稳定性。