本研究探讨了上下文压缩方法,以提高大语言模型处理长上下文的能力。尽管在某些任务中表现良好,但在合成回忆等任务中仍存在挑战。为此,提出了细粒度自编码和段落令牌重要性评估策略。
完成下面两步后,将自动完成登录并继续当前操作。