小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
评估推理链的可监控性

AI系统的决策过程难以监督,理解其内部推理至关重要。研究表明,监控推理链比仅监控模型行为更有效。OpenAI研究者提出了一种评估推理链可监控性的框架,并设计了多种评估方法,结果显示推理链越长,模型可监控性越高,后续提问可进一步提升可监控性。这些发现对AI系统的安全部署具有重要意义。

评估推理链的可监控性

OpenAI
OpenAI · 2025-12-18T12:00:00Z

本研究提出ARCS框架,旨在解决超级计算中的高效代码生成问题。通过结合检索增强生成和推理链,显著提高了代码翻译和生成的质量,展示了自动化和优化代码开发的潜力。

ARCS: Iterative Optimization for Agent-Based Retrieval-Enhanced Code Synthesis

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-29T00:00:00Z

本研究提出了HypoGen数据集,包含约5500个结构化的难题-假设对,旨在解决科学假设生成领域缺乏专用数据集的问题。该数据集通过明确的推理链组件,提升了假设生成的原创性和可行性,为人工通用智能的发展提供了新思路和工具。

Sparks of Science: Generating Hypotheses Using Structured Paper Data

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-17T00:00:00Z

本研究探讨了大型语言模型在推理链中微小错误的脆弱性,提出了“妥协思维”概念,发现局部结束标记的操控显著影响推理结果,揭示了安全漏洞,强调了推理应用的安全问题。

过程还是结果?操纵的结束标记可能会误导推理大型语言模型忽略正确的推理步骤

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-25T00:00:00Z

本研究提出了一种新颖的结构化推理设计STRIVE,旨在解决声明验证中的低质量推理链问题。通过声明分解、实体分析和证据验证等组件,该方法提高了推理质量,减少了错误,并在HOVER数据集上提升了31.4%的模型性能。

STRIVE: A Structured Reasoning Approach for Self-Improvement in Claim Verification

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-17T00:00:00Z

本研究提出了一种新策略CoT-Valve,通过动态调整推理链长度,解决了连锁思维推理成本增加的问题,显著提高了效率。

CoT-Valve: A Length-Compressible Optimization for Chain-of-Thought Reasoning

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-13T00:00:00Z

本研究提出了EvalPlanner算法,旨在解决推理链评估中缺乏人类注释的问题。该算法生成并优化无约束评估计划,从而提高大型语言模型的评估有效性。

学习规划与推理:将大型语言模型作为评估者

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-30T00:00:00Z

研究发现大型语言模型在整个推理链上保持一致性方面存在困难,通过引入“规划标记”作为指南并微调模型参数来解决问题。该方法在三种不同的LLMs上评估,相对于原始的链式思维微调基准,取得了显著的准确性提升。

释放创造力的思维:语言模型作为层次策略在挑战性问题求解中的改进探索

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-11-01T00:00:00Z

研究发现大型语言模型在整个推理链上保持一致性方面存在困难,引入了“规划标记”作为指南,并通过微调模型参数来实现。该方法在三种不同的LLMs上进行了评估,相对于原始的链式思维微调基准,取得了显著的准确性提升。

逐步奖励:作为推理导航器的步骤级奖励模型

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-16T00:00:00Z

研究发现,大型语言模型在整个推理链上保持一致性方面存在困难。为了解决这个问题,研究人员引入了“规划标记”作为模型的指南,并将其嵌入到模型的参数中进行微调。该方法可实现显著的准确性提升,且已在三种不同的LLMs上进行了评估。

用计划标记引导语言模型推理

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-09T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码