推理模型中的轨迹长度是一个简单的不确定性信号
💡
原文英文，约200词，阅读约需1分钟。
📝
内容提要
大型推理模型的不确定性量化是解决幻觉等问题的关键。研究表明，推理轨迹长度是有效的信心估计器，能够与其他零-shot信心估计器互补。推理后训练改变了轨迹长度与准确率的关系，高熵“分叉”标记在其中起到关键作用。
🎯
关键要点
- 大型推理模型的不确定性量化是解决幻觉等问题的关键研究方向。
- 推理轨迹长度是大型推理模型中一个简单且有效的信心估计器。
- 推理轨迹长度与其他零-shot信心估计器（如口头信心）互补。
- 推理后训练改变了轨迹长度与准确率之间的关系。
- 高熵或“分叉”标记在推理轨迹长度的信心信号机制中起到关键作用。
- 推理后训练增强了不确定性量化，超越了口头表达。
- 轨迹长度被确立为大型推理模型的实用信心测量标准。
➡️
