小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
AI论文评审:自一致性提升语言模型中的链式思维推理

自一致性是一种新型解码策略,通过生成多个独立推理路径并选择最一致的答案,显著提升大型语言模型的推理能力。该方法克服了传统链式思维的局限,允许模型在选择答案前探索多种可能性,从而提高准确性。实验表明,自一致性在算术、常识和符号推理任务中表现优异,证明更好的推理不一定依赖于更大的模型或额外的训练。

AI论文评审:自一致性提升语言模型中的链式思维推理

freeCodeCamp.org freeCodeCamp.org · 2026-07-08T18:55:53Z
自适应思维:大型语言模型何时在潜在空间中思考

大型语言模型(LLMs)在推理中引入了中间思维链(CoT)能力。研究表明,自一致性可作为思维必要性的指标,较低的一致性表明查询需要更多思考。基于此,提出了Sonata方法,能够自适应分配思维预算,优化性能与效率的平衡。实验结果显示,Sonata在保持准确率的同时,思维令牌减少20%至80%。

自适应思维:大型语言模型何时在潜在空间中思考

Apple Machine Learning Research Apple Machine Learning Research · 2026-04-29T00:00:00Z
星跃重洋| 程轶:探索 LLM 前沿,挑战科研边界

程轶在微软亚洲研究院的十个月实习中,研究大语言模型的自一致性机制,克服了多项挑战。通过双导师指导,她提升了科研能力,重视简洁性和实际应用,享受科研过程,坚定追求挑战与成长。

星跃重洋| 程轶:探索 LLM 前沿,挑战科研边界

dotNET跨平台 dotNET跨平台 · 2025-09-11T23:58:59Z

本研究探讨了自一致性在聚合多样性随机样本时的动态机制,提出了一种基于置信度的机制,通过动态调整解码温度来提高采样效率和准确性。实验结果表明,该方法在数学推理任务中优于固定多样性基准。

Revisiting the Role of Self-Consistency in Answer Aggregation from the Perspective of Dynamic Distributional Alignment

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-02-27T00:00:00Z

本研究提出了PROVE框架,通过程序验证方法提升大语言模型在数学推理中的自一致性,过滤不正确的推理路径。实验结果表明,PROVE显著提高了模型在数学基准测试中的准确性,展现了其作为有效工具的潜力。

Not All Votes Are Valid! Program Verification Enhances Self-Consistency of Language Models in Mathematical Reasoning

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-10-16T00:00:00Z

本文探讨了预训练语言模型生成文本的真实性,提出了一种多视角自一致性(MPSC)解码策略,显著提升了生成任务的性能。研究发现模型在自我一致性方面存在不良标定性,并通过信息理论方法SH2增强了模型的真实解码能力。此外,提出的ActCab和CoDec方法在问答基准上提高了模型的真实性,强调了置信度信号的重要性。

综合解码:通过隐性自洽性提高事实准确性

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-10-02T00:00:00Z

本文介绍了一种新方法,通过扩展自一致性应用和使用轻量级相似函数,提升大规模预训练语言模型的生成质量和一致性。研究发现模型在自我一致性上存在不良标定性,并提出通过监督学习和强化学习对齐过程来改善模型性能的策略,同时揭示了指令跟踪模型的局限性,并提出增强模型鲁棒性的方法。

通过一致对齐提升大型语言模型的鲁棒性

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-03-21T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码