搜索效果差时，不应只升级重排序模型。大规模重排序成本高、延迟大，且候选池本身没有好结果时重排序也无能为力。更优方案是将检索设计为多阶段漏斗：先用低成本词法、向量或混合检索生成大量候选，再逐步收窄，最后才用机器学习重排序。该思路同样适用于RAG，需权衡召回率、相关性、延迟与成本。

单智能体系统适合线性任务，成本低、延迟小；多智能体系统虽增加延迟和成本，但在需要对抗性审查、工具集差异大、任务可并行或需不同角色时更有效。建议先构建简单系统，根据失败模式逐步扩展。

本文探讨了提示缓存与微调在降低AI代理系统成本与延迟方面的差异及选择框架。提示缓存通过存储重复提示结果减少计算开销，适合静态文档和重复查询；微调通过LoRA等技术训练模型提升特定任务效率，适合格式一致性和个性化需求。混合策略可兼顾两者优势，实现高效架构。