Fact-and-Reflection (FaR) 提高大型语言模型的置信度校准
内容提要
本文综述大语言模型知识获取与推理增强策略：通过意见提示和反事实演示提升上下文真实性；利用置信度评分与温度缩放降低校准误差；借助外部知识库和迭代提示优化生成；采用多模型辩论、FaR零样本框架、信念图约束推理及“重述和回答”提升数学与策略推理及一致性，并与思维链互补；多阶段依据验证框架提高生命科学问答可靠性。
延伸解读
置信度校准的实用价值
文章指出，通过合理的提示策略和温度缩放，可以从强化学习加人工反馈的预训练语言模型中提取置信度得分，并降低超过50%的校准误差。这意味着模型输出的置信度能更真实地反映其正确概率，对于需要评估模型可靠性的应用场景具有实际意义。
多模型辩论与FaR框架的互补性
多模型辩论通过反复推理达成共识，能减少虚假答案和幻觉，尤其在数学和策略推理方面表现改善。而FaR零样本框架鼓励模型预测未来挑战并推断潜在行动，提升了GPT-4在社交情境任务中的表现。两者从不同角度增强推理可靠性，可结合使用。
RaR与思维链的协同效应
重述和回答（RaR）方法通过让模型重述和展开问题来提高性能，实验证明其与思维链（CoT）互补，结合使用效果更好。这提示在实际应用中，可以同时采用问题重述和逐步推理策略，以更充分地激发模型能力。
外部知识验证提升专业领域可靠性
在生命科学领域，多阶段依据验证框架通过生成合理依据并验证修正错误，提高了GPT-3.5-turbo在药物相关查询中的响应质量，使其答案更可靠准确。这表明结合外部知识验证是提升专业领域问答可靠性的有效途径。
Q&A
FaR 是什么？它如何提升大型语言模型的性能？
FaR 是 Foresee and Reflect 的缩写，是一种零样本提示框架。它鼓励大型语言模型预测未来挑战并合理推断潜在行动，从而提高 GPT-4 在 Thinking for Doing（T4D）任务上的性能。
如何降低大型语言模型的置信度校准误差？
可以通过从经过强化学习加人工反馈的预训练语言模型中提取置信度得分，并采用合理的提示策略和温度缩放，成功降低超过 50% 的校准误差。
多模型辩论如何改善大型语言模型的推理能力？
通过多个语言模型实例的反复辩论和推理过程，以达成一个共同的最终答案，从而改善语言响应的表现，特别是在数学和策略推理方面，减少虚假答案和幻觉现象。
RaR 方法是什么？它和思维链（CoT）有什么关系？
RaR 是“重述和回答”方法，通过让大型语言模型重述和展开人类的问题，在单个提示中提供回答，以提高性能。实验证明 RaR 与思维链（CoT）互补，结合使用效果更好。
REFLEX 方法如何提高大型语言模型答案的一致性？
REFLEX 方法通过在大型语言模型中添加一个反思层次，构建信念图并使用形式化的约束推理器，减少答案与其他“信念”的依赖关系和不一致性，从而改善一致性，同时不降低答案准确性。
在生命科学领域，如何提高大型语言模型问答的可靠性？
提出了一个多阶段框架，通过生成合理的依据并验证修正错误，将其作为支持参考生成答案，提高了 GPT-3.5-turbo 在生命科学行业药物相关查询中的响应质量，使答案更可靠和准确。
