解析标签空间、格式和歧视：通过上下文学习重新思考 LLM 如何响应并解决任务
原文中文，约400字，阅读约需1分钟。发表于：。通过实证研究，我们在文中将 ICL 的整体表现分解为三个方面，即标签空间、格式和区分能力，并评估四种通用语言模型在各种任务中的性能。结果显示，虽然示范对于激发语言模型的区分知识的影响较小，但 ICL 对于调节标签空间和格式的表现具有显著效果，并能帮助语言模型按照期望的标签进行响应。此外，我们通过对检索机制的深入分析发现，检索最语义相似的示例明显提升了模型的区分能力。
大型语言模型（LLMs）在上下文学习（ICL）方面展示了显着的能力，尤其是对于大型语言模型。ICL对标签扰动的敏感性较低，并且随着模型大小的增加，ICL的性能逐渐与SL相当。
