代理的可观察性与传统软件不同，因其行为复杂且不确定。评估代理时应关注推理过程而非代码路径，利用运行、追踪和线程等方法捕捉其行为。生产环境是主要的学习来源，真实数据有助于发现问题并指导测试。

近期的前沿语言模型引入了大型推理模型（LRMs），这些模型在回答前生成详细的思考过程。尽管在推理基准上有所提升，但其基本能力和局限性仍不明确。现有评估主要关注最终答案的准确性，忽视了推理过程的结构和质量。通过可控的难题环境研究发现，当复杂性超出一定范围时，LRMs的准确性会完全崩溃，且在高复杂性任务中表现不佳。

Anthropic研究人员开源了一款工具，用于追踪大型语言模型的推理过程。该工具包括一个Python库和图形前端，通过替换模型神经元，利用稀疏激活特征生成归因图，揭示模型内部计算步骤，从而提高LLM的可解释性。

Anthropic的研究通过“AI显微镜”分析大型语言模型（LLMs）的内部机制，揭示其如何将可解释概念与计算电路连接。研究表明，Claude在生成语言前会考虑潜在词汇，并采用独特策略解决数学问题。此外，Claude的推理过程常与其内部机制不符，显示LLMs可能会虚构合理化解释。这些发现对依赖自动推理的行业具有重要意义。

DeepAI 是一个代理服务器，通过“思考链”增强大型语言模型的交互体验。它接收 OpenAI API 请求，生成推理过程并转发给 LLM，从而提供更具洞察力的回答。支持灵活的后端、流式响应和详细日志记录。

近年来，大模型迅速发展，但其决策逻辑与人类认知存在差距，导致信任问题。研究显示，法律大模型常常错误关联无关信息，带来伦理风险。通过构建交互理论，研究者揭示了大模型决策的混乱性，强调推理过程的公平性与可靠性的重要性。

该项目从零实现Meta的Llama3，揭示大型语言模型的内部工作原理。提供双语代码注释、维度跟踪和KV-Cache推导，适合初学者和开发者，帮助深入理解模型设计与推理过程。

本文探讨了在马尔可夫链模型中引入推理过程以生成“思维链”。通过生成中间步骤，模型能够更有效地解决复杂任务。文章描述了如何扩展马尔可夫链类，增加推理生成和最终输出生成的方法，并讨论了该方法的局限性及改进空间。

OpenAI 发布了 o3-mini 系列模型的思维链，帮助用户更清晰地理解模型的推理过程。尽管推理步骤未完全公开，模型仍能持续准确回答问题。与 DeepSeek R1 相比，o3-mini 的思维过程更简洁，展现出不同的思维风格。OpenAI CEO 解释了整理思维链的原因，强调了用户需求。

Meta-CoT框架通过显式建模推理过程，扩展了传统思维链方法，以解决复杂问题。研究表明，传统方法未能有效捕捉真实数据生成过程，而Meta-CoT通过系统搜索和过程监督提升了推理能力，为大型语言模型提供了更强的推理能力和实践指导。