本文比较了思维链（CoT）与思维树（ToT）两种提示方法在AI智能体中的应用。CoT采用线性推理，简单快速，但早期错误会传播且无法回溯；ToT通过分支、评估和回溯探索多条路径，能处理复杂问题，但成本高昂。实际中，智能体通常结合两者：CoT处理常规任务，ToT用于高风险或复杂决策，根据任务难度选择合适框架。

本文介绍四种提示工程技巧：零样本提示无需示例即可作答；少样本提示通过少量示例引导模型；思维链提示逐步提问以增强连贯性；思维树提示以分支结构探索多种思路，分为思维产生与评估两步，并以24点游戏为例结合广度优先搜索筛选可行解。

路透社报道OpenAI内部项目Q*，称其能解小学数学题，被视为迈向AGI的突破。作者推测Q*结合思维树推理与过程奖励模型：思维树生成多条推理路径，过程奖励模型对每个推理步骤打分，再用离线强化学习优化。关键在于用AI而非人工为步骤评分，借助大量算力生成合成数据，从而大幅提升推理训练效率。

本文提出思维树（ToT）框架，扩展思维链提示，使大语言模型在连贯思维单元中探索多条推理路径，并通过自我评估与广度优先、深度优先等搜索算法进行规划、前瞻和回溯。在24点游戏、创意写作和迷你填字任务上，ToT显著优于IO、CoT等方法，24点成功率由4%提升至74%。该框架通用、模块化、无需额外训练，但计算成本较高。

开源工具Branches用于原型化大语言模型的树状推理与规划算法。针对LLM逐行生成代码易出错、错误传播的问题，采用思维树方法：模型尝试多条解决路径，由Python解释器提供错误追踪反馈，模型反思并修正代码，从而提升HumanEval代码生成成功率。未来方向包括KV缓存加速、扩展记忆和引入人类反馈。