基于词汇训练，基于概念校准：大型语言模型中的语义校准的出现
💡
原文英文，约300词，阅读约需1分钟。
📝
内容提要
研究表明，基础大型语言模型（LLMs）在开放领域问答任务中能够有效评估语义置信度，尽管未经过专门训练。语义校准被认为是下一词预测的副产品，并与局部损失最优性相关。实验验证了基础LLMs在问答任务中的语义校准性，以及强化学习调优和思维链推理对其校准的影响。
🎯
关键要点
- 基础大型语言模型（LLMs）在开放领域问答任务中能够有效评估语义置信度，尽管未经过专门训练。
- 语义校准被认为是下一词预测的副产品，并与局部损失最优性相关。
- 实验验证了基础LLMs在问答任务中的语义校准性。
- 强化学习调优系统性地破坏了这种校准。
- 思维链推理也会破坏校准。
- 本研究提供了关于语义校准在LLMs中出现的原因和条件的首个原则性解释。
➡️
