对大型语言模型进行少样本多语言 NLU 分析与适应：如今已经达到目标了吗？
内容提要
本文综述大语言模型的上下文学习与微调研究。小模型经微调可执行上下文学习，在机器翻译领域适应中质量优于传统监督和大模型基线；PEFT方法精度高、成本低，T-Few首次超越人类；FIAT结合ICL与微调，在多语言任务上表现更优；SuperICL、ICIL、URIAL等提升泛化与对齐能力；自然语言解释增强鲁棒性。
延伸解读
小模型微调实现上下文学习
文章指出，通过针对专门训练目标进行微调，较小的模型也能获得上下文学习能力。在神经机器翻译的领域适应任务中，这种微调后的小模型在翻译质量和即时适应率上优于传统监督技术以及基于400亿参数大模型的上下文学习。这意味着，在特定领域任务中，精心微调的小模型可能比直接使用大模型更高效，且支持多领域批处理推理，降低了计算成本。
PEFT与T-Few的突破
参数高效微调（PEFT）方法在精度和计算成本上均优于少样本上下文学习。文章提到，基于T0模型的T-Few配方在RAF基准测试中首次达到超人类表现，并超越现有技术6%。这表明，通过PEFT，可以在不进行任务特定调整的情况下，以极低计算成本将模型应用于新任务，为资源有限场景提供了实用方案。
结合ICL与微调的FIAT范式
FIAT范式将上下文学习（ICL）与完全微调结合，允许在使用最大尺寸模型的同时进行快速引擎指令和思维链推理，并对规模适度的LLM进行参数更新。实验显示，FIAT在多种多语言任务上优于纯ICL和纯微调，训练样本范围为100到10,000。这为无需在学习范式间艰难选择提供了实用途径，有望充分发挥LLMs潜力。
对齐与鲁棒性的新进展
文章介绍了URIAL方法，它通过ICL实现高效对齐，无需SFT或RLHF，性能与基于SFT或SFT+RLHF的方法相当甚至更优。此外，加入自然语言解释可提升模型鲁棒性，X-ICL方法比ICL在对抗性任务上提高6%以上。这些进展表明，对齐和鲁棒性研究正朝着更高效、更可解释的方向发展，但提示选择策略在鲁棒性评估中效果不一，需进一步探索。
Q&A
小模型经过微调后能否进行上下文学习？在机器翻译领域适应中效果如何？
可以。通过针对专门训练目标进行微调，小模型能被训练用于执行上下文学习。在神经机器翻译的领域适应任务上，这种方法允许对多个领域进行高效批处理推理，并在翻译质量和即时适应率方面优于传统监督技术以及基于400亿参数大语言模型的上下文学习基线。
PEFT方法相比少样本上下文学习有什么优势？T-Few取得了什么成果？
PEFT具有更好的精度和极低的计算成本。提出的(IA)^3新PEFT方法及基于T0模型的T-Few配方，无需任务特定调整即可应用于新任务。在RAF基准测试中，T-Few首次达到超人类表现，并超越现有技术6%。
FIAT是什么？它与其他学习范式相比有什么优势？
FIAT是一种结合上下文学习（ICL）和完全微调的新学习范式。它允许在使用最大尺寸模型的同时进行快速引擎指令和思维链推理，并利用类似方法对规模适度的LLM进行参数更新。在多种多语言任务上，FIAT表现优于ICL和完全微调，训练样本范围为100-10,000。
URIAL方法如何实现大语言模型的高效对齐？效果如何？
URIAL是一种基于ICL的对齐方法，使得基于语言模型的对齐不再需要SFT或RLHF。实验证明，URIAL的性能与基于SFT或SFT+RLHF的方法相媲美甚至更优。
自然语言解释如何提升模型鲁棒性？X-ICL方法效果如何？
加入自然语言解释可以提升模型在多种任务中的表现，但在对抗性输入时效果下降。研究通过加入自然语言解释提高了模型对七个对抗性和挑战性自然语言推理数据集的鲁棒性。提出的X-ICL方法（使用ChatGPT的几个人工生成的自然语言解释）比ICL方法提高了6%以上。
SuperICL和ICIL分别有什么作用？
SuperICL（Super In-Context Learning）是一种有效调整大规模监督数据的算法，尤其适用于难以调整和调试的大型语言模型，在多语言性和解释性等方面具有优越性。ICIL（上下文学习作为指示学习方法）可提高预训练和指示微调模型的零样本任务泛化能力，使用固定的单一提示来评估所有任务。
