面向API调用智能体的无环境合成数据生成
内容提要
本文提出一种无需真实环境即可生成API调用智能体训练数据的方法。仅凭API规格，利用LLM模拟数字世界，生成任务、交互轨迹及响应，并通过LLM过滤器确保质量。在AppWorld和OfficeBench基准测试中，微调模型性能显著提升，证明该方法可扩展且有效，无需可执行环境即可训练智能体。
延伸解读
核心思路：LLM模拟环境
该方法的核心在于利用LLM本身作为数字世界的模拟器，仅根据API规格生成合成交互轨迹。这避免了构建真实可执行环境（包括后端数据库）的高昂成本，使得数据生成可以扩展到任意API生态系统。
质量保障机制
为确保合成数据的质量，方法引入了LLM过滤器（judge）对生成的轨迹进行筛选。这一步骤至关重要，因为模拟环境可能产生不真实或不一致的响应，过滤机制有助于剔除低质量样本，从而提升训练数据的可靠性。
基准测试验证
在AppWorld和OfficeBench两个基准上的实验表明，使用该方法生成的合成数据微调模型，性能显著提升。这证明了无需可执行环境也能训练出有效的API调用智能体，为相关研究提供了一种可扩展的替代方案。
Q&A
什么是无环境合成数据生成方法？
无环境合成数据生成方法是一种利用LLM作为数字世界模型，仅根据API规格生成训练数据的技术。它不需要真实可执行的环境，而是通过LLM模拟API调用的交互轨迹和响应，从而生成高质量的训练数据。
如何仅凭API规格生成训练数据？
该方法通过三个步骤生成训练数据：首先，LLM生成多样化的任务；其次，教师智能体迭代解决任务，同时LLM模拟器根据任务上下文和模拟历史生成连贯的API响应；最后，LLM评判器过滤轨迹以确保数据质量。
为什么需要无环境合成数据生成？
因为训练API调用智能体需要大量高质量轨迹，而传统方法依赖完整实现的环境和预填充的数据库，这成为扩展性的瓶颈。无环境方法可以绕过这一限制，仅凭API规格即可生成数据，从而降低成本并提高可扩展性。
无环境合成数据生成方法在哪些基准测试上进行了评估？
该方法在AppWorld和OfficeBench两个基准测试上进行了评估，这两个基准涵盖了信息检索和状态改变任务。
微调模型在基准测试上的表现如何？
在AppWorld和OfficeBench上，使用合成数据微调的模型性能显著提升，证明了该方法无需可执行环境即可有效训练智能体。
LLM模拟器在生成数据时扮演什么角色？
LLM模拟器充当数字世界模型，根据任务上下文和模拟历史生成连贯的合成API响应，模拟有状态环境的交互，从而为教师智能体提供反馈。
LLM评判器如何确保数据质量？
LLM评判器过滤生成的轨迹，筛选出高质量的数据，确保最终数据集的质量，从而提升训练效果。
