检索增强生成（RAG）是一种通过检索相关材料并将其整合到模型提示中以提升回答质量的方法。文章探讨了RAG在小上下文窗口下的局限性，并提出通过文档摘要、块摘要和原始块的层次化索引来优化检索过程的解决方案。关键在于使用摘要进行检索，使用原始块进行回答，并通过上下文预算管理信息量，从而在资源有限的情况下提高RAG系统的可靠性和可调试性。