Neeko: 提高效率的多角色扮演智能体的动态 LoRA 利用
内容提要
本文综述多种大模型高效适配方法：MultiLoRA扩展LoRA模块以降低参数依赖并提升多任务性能；HyperLoRA利用超网络适配低资源方言；多机器人协作借助LLM实现规划与通信；LARP增强语言代理的游戏交互；LoraRetriever自适应组合多个LoRA；MoRAL结合专家混合与低秩适配支持终身学习；LoRAHub组合多任务LoRA模块；Leeroo编排多个LLM，以更低成本达到与Mixtral和GPT-4相当的效果。
延伸解读
多任务适配的参数效率
MultiLoRA通过水平扩展LoRA模块和改变适应矩阵初始化，减少了顶层奇异向量的主导性，从而在仅增加2.5%参数的情况下，实现了优于单个LoRA和全微调的多任务性能。这表明在多任务场景中，平衡子空间贡献比单纯增加参数更有效。
低资源方言与终身学习的适配方案
HyperLoRA利用超网络实现资源高效适配，提升对未知方言的泛化能力，有助于服务代表性不足的英语方言使用者。MoRAL结合专家混合与低秩适配，支持终身学习，并以问答对作为输入提升鲁棒性和效率。两者都针对特定挑战提供了适配思路。
多智能体协作与游戏交互的增强
多机器人协作方法利用LLM进行高层通信和低层路径规划，通过机器人间交流与集体推理生成子任务计划，并在RoCoBench基准上取得高成功率。LARP则通过认知架构和环境交互模块，提升语言代理在开放世界游戏中的互动体验。这些工作展示了LLM在具身和交互场景的潜力。
多模型编排的成本与性能平衡
Leeroo编排器通过选择最佳底层LLM专家，在MMLU基准上以三分之二的成本达到与Mixtral相当的性能，提高成本可超过Mixtral准确率5%以上。集成GPT-4后，以一半成本几乎媲美GPT-4，甚至降低25%成本时超过其表现。这表明智能编排能优化多模型协同，实现更优性价比。
Q&A
MultiLoRA 是如何提升多任务适应性的？
MultiLoRA 通过减少 LoRA 中顶层奇异向量的主导性，水平扩展 LoRA 模块并改变适应矩阵的参数初始化，从而减少参数依赖性，产生更平衡的单元子空间，实现更好的多任务适应性。
HyperLoRA 如何帮助低资源方言？
HyperLoRA 利用专家语言知识，通过超网络实现资源高效的适应，从而提高对未知方言的泛化能力，为数十亿传统上代表性不足的英语方言使用者提供语言技术的便利访问。
多机器人协作中如何利用大语言模型？
该方法利用预训练的大型语言模型进行高层通信和低层路径规划，通过机器人之间的交流和集体推理任务策略，生成子任务计划和任务空间路径，应用于多臂运动规划，以加速轨迹规划，并在环境中提供反馈（如碰撞检测）以促使 LLM 代理改进其计划和路径点。
LoraRetriever 是什么？
LoraRetriever 是一个检索后合成的框架，根据输入提示自适应地检索和组合多个 LoRA，实验结果表明它始终优于基线模型，突出了其实际效果和通用性。
MoRAL 如何实现大语言模型的终身学习？
MoRAL 结合了 Mixture-of-Experts 和 Low-Rank Adaptation，用于有效地进行大型语言模型的终身学习，使用问题-答案对作为输入以提高鲁棒性和效率，并通过新的评估基准和指标进行了全面评估。
Leeroo 编排器的性能如何？
Leeroo 编排器在 MMLU 基准测试上实现了与 Mixtral 模型相媲美的性能，但只有三分之二的成本；提高允许的成本可以超过 Mixtral 的准确率 5% 以上，达到 75.9% 的准确率水平。将 GPT4 集成到底层模型池中进一步提高了性能，以一半的成本几乎与 GPT4 的性能相当，甚至在降低 25% 成本的情况下超过了 GPT4 的结果。
