大型语言模型（LLM）在处理长上下文时会出现准确性下降的问题，称为“上下文衰退”。斯坦福研究表明，信息位置影响准确性，位置越靠中间，准确率越低。上下文衰退导致响应质量下降、计算成本增加和架构复杂性提升。解决方案包括外部记忆架构和语义缓存，以保持固定上下文窗口并动态检索相关信息。