OpenAGI: When LLM Meets Domain Experts 浅析
内容提要
论文提出OpenAGI平台，以自然语言查询为输入，由大语言模型选择、组合并执行各领域专家模型，完成多步复杂任务。平台构建了185个多模态任务，包含线性与非线性结构，并引入任务反馈强化学习提升规划能力，用约束波束搜索保证生成有效的模型序列。作者认为，大语言模型如同指挥官，将复杂任务拆解给专家模型执行，是通向通用人工智能的有前景路径。
延伸解读
LLM作为指挥官的规划能力
文章将LLM比作指挥官，负责将复杂任务拆解为子任务并调度专家模型。这种设计不追求单一超大模型，而是利用LLM的推理能力组合现有模型。实验显示，零样本下多数LLM难以生成有效规划，GPT-3.5易重复，LLaMA-7b和Flan-T5-Large受限，说明规划能力仍需示例或微调提升。
任务反馈强化学习与约束波束搜索
为提升规划能力，作者引入任务反馈强化学习（RLTF），用任务解决结果作为反馈优化LLM策略。同时，采用约束波束搜索确保生成的模型序列有效：通过前缀树限制仅输出模型名称，并动态检查输入输出模态匹配。这些机制共同解决了生成无效序列的问题，但文章也指出如何更有效获取任务反馈仍需研究。
非线性任务结构与并行规划
OpenAGI构建的185个任务中，68个具有非线性结构，需要多个输入且每个输入由先决模型生成。LLM需生成并行模型序列，文章利用波束搜索的半自回归生成，将不同假设视为不同输入的并行解。这突破了线性规划的局限，但将非线性规划能力纳入LLM仍面临独特挑战。
评估指标与泛化局限
平台使用CLIP Score评估图文相关性，BERT Score（F1）评估文本输出，ViT Score评估图像相似性。这些指标为多模态任务提供了量化依据，但文章指出专家模型存在分布外泛化能力有限的问题，且同一任务的不同模型顺序可能导致结果质量差异显著，如何平衡准确性与表现力仍需探索。
Q&A
OpenAGI 平台的核心工作流程是怎样的？
OpenAGI 以自然语言查询为输入，由大语言模型（LLM）生成解决方案，将任务映射为一系列领域专家模型名称，然后选择并执行这些模型，完成多步复杂任务。
OpenAGI 构建了多少个多步任务？其中线性和非线性任务各有多少？
OpenAGI 共构建了 185 个复杂多步任务，其中 117 个具有线性任务结构，68 个具有非线性任务结构。
OpenAGI 如何解决 LLM 生成无效模型序列的问题？
OpenAGI 采用约束波束搜索（constrained beam search），通过前缀 trie 限制每个解码步骤只能生成模型名称中的令牌，并确保连续模型的输入输出模态匹配，从而生成有效的模型序列。
任务反馈强化学习（RLTF）在 OpenAGI 中起什么作用？
RLTF 利用任务解决结果作为反馈来改进 LLM 的规划策略，形成自我完善的 AI 反馈循环，从而提高 LLM 的任务解决能力。
OpenAGI 使用哪些指标评估 LLM 的任务解决能力？
OpenAGI 使用三个指标：CLIP Score 评估文本到图像生成任务中标题与图像的相关性；BERT Score（F1）评估文本输出质量；ViT Score 评估图像相似性。整体性能为三者的加权平均值。
OpenAGI 面临哪些主要挑战或局限性？
主要挑战包括：领域专家模型的分布外（OOD）泛化能力有限；组合不同模型时难以确定最优任务规划；非线性任务结构需要更复杂的规划能力，对 LLM 提出独特挑战。
