推理行动：通过先发制人评估和人类反馈为基于 LLM 的代理商推断安全行动
内容提要
本文探讨了大型语言模型（LLMs）在决策和推理中的应用，提出了ReAct和PreAct方法，强调结合认知架构和历史预测可提升模型性能。同时，GuardAgent增强了LLM代理的安全性，KnowAgent改善了规划能力。研究表明，开放式行为学习和条件方法能显著提高代理的执行效果。
延伸解读
从ReAct到PreAct：推理与行动的演进
文章梳理了LLM代理推理与行动结合的两条路径：ReAct通过交错生成推理迹线和任务操作提升语言理解与决策效果；PreAct进一步引入预测信息，使代理在复杂任务中表现更优，且与反思方法结合可进一步增强性能。历史预测对规划有持续积极影响，单步推理差异显示PreAct在多样性和战略方向上更具优势。
安全与规划：GuardAgent与KnowAgent的针对性增强
针对LLM代理的安全与规划短板，文章介绍了两个方向：GuardAgent作为代理守卫，通过检查输入/输出是否满足用户定义的保护要求来增强安全性，无需额外训练，在基准测试中达到98.7%和90.0%的准确性；KnowAgent则通过引入显式行动知识，提升LLM的规划能力，实现更合理的轨迹合成。
行为学习与条件方法：提升执行效果的关键
文章还探讨了开放式行为学习和条件方法。开放式行为学习在迭代中通过修正和更新可用动作来提高动作有效性，实验证明能显著改善代理性能，凸显经验行为学习的重要性。条件方法则将语言模型生成的中级计划语义翻译为合适操作，在VirtualHome环境中可执行性显著优于LLM基线。
Q&A
ReAct方法如何提高大型语言模型的有效性？
ReAct方法通过交错生成推理迹线和任务特定操作，促进语言理解和决策任务的协作，从而提高有效性。
PreAct框架与ReAct方法相比有什么优势？
PreAct框架结合预测、推理和行动，提供更多样化和战略性导向的推理，完成复杂任务的效果优于ReAct方法。
GuardAgent是如何增强LLM代理的安全性的？
GuardAgent通过检查输入/输出是否满足用户定义的保护要求，增强了LLM代理的安全性，准确性达到98.7%和90.0%。
开放式行为学习方法对代理程序的性能有什么影响？
开放式行为学习方法通过修正和更新动作，显著改善了代理程序的性能，强调了经验行为学习的重要性。
KnowAgent如何提升大型语言模型的规划能力？
KnowAgent通过引入显式行动知识，增强了大型语言模型的规划能力，提高了轨迹合成的合理性。
如何利用大型语言模型进行安全分析？
通过定制化的LLM代理，采用提示工程、启发式推理和检索增强生成的元素，可以进行安全分析和人机协同设计。
