本文介绍管理大语言模型小上下文窗口的三种实用策略：滑动窗口截断法，通过FIFO队列保留最近对话，控制token使用；令牌预算结合检索增强生成，按比例分配上下文空间，确保只纳入最相关信息；以及滚动摘要、提示压缩和观察掩蔽等进阶方法。文章强调小上下文窗口能降低成本、减少延迟，并避免“迷失在中间”问题。