探索大型语言模型的令牌预测精炼及识别关键层次

本研究旨在揭示大型语言模型（LLM）如何迭代精炼令牌预测，填补了对模型信息获取及其在预测过程中如何受相关信息位置影响的理解空白。研究发现，在处理多文档问题回答任务时，相关信息的位置对模型的预测精炼过程有显著影响，尤其是在面对较长上下文时，模型需要更多的迭代才能准确预测，突显了关键层次的重要性。