Apple Machine Learning Research ·

SelfReflect：大型语言模型能否有效传达其内部答案分布？

💡 原文英文，约500词，阅读约需2分钟。

📝

内容提要

本文探讨了大型语言模型（LLM）如何有效传达其内部答案分布的不确定性。研究提出了SelfReflect指标，用于评估LLM生成的摘要与其答案分布之间的差异。结果表明，现代LLM在表达不确定性方面存在不足，但通过多次输出采样和反馈，可以生成更准确的摘要。这为未来LLM不确定性沟通的发展提供了新思路。

🎯

🔎

SelfReflect指标为评估大型语言模型（LLM）在表达不确定性方面的能力提供了新的视角。通过量化摘要与答案分布之间的差异，研究者能够更清晰地识别LLM在传达不确定性时的不足之处。这一指标的提出，可能会推动未来LLM在不确定性沟通方面的改进，提升用户对模型输出的信任度。

研究表明，通过多次输出采样和反馈，LLM能够更准确地反映其不确定性。这一方法不仅提高了摘要的准确性，也为用户提供了更全面的信息。这意味着在实际应用中，开发者可以考虑采用这种方法来增强LLM的表现，尤其是在需要高可靠性的场景中。

尽管现代LLM在生成文本方面表现出色，但它们在揭示内部不确定性方面仍存在显著局限。这种局限性可能影响用户对模型输出的理解和信任。因此，在使用LLM时，用户应保持警惕，特别是在模型输出涉及复杂或关键决策时，需谨慎对待其不确定性。

❓

SelfReflect指标是一种信息理论距离，用于评估大型语言模型生成的摘要与其答案分布之间的差异。

现代大型语言模型无法通过推理、思维链或显式微调来揭示其不确定性。

通过多次输出采样和反馈，可以帮助大型语言模型生成更准确的摘要，反映其不确定性。

SelfReflect指标为未来大型语言模型在不确定性沟通方面的发展提供了新思路。

大型语言模型的主要目标是能够指示其对给定答案的不确定性，通常通过数值置信度分数来实现。

研究发现，SelfReflect指标能够指示出摘要与LLM实际内部答案分布之间的微小偏差，表明现代LLM在表达不确定性方面的能力不足。

🏷️