Neeko: 提高效率的多角色扮演智能体的动态 LoRA 利用

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

我们提出了一种新的架构,利用多个经过训练的LLMs的集体知识,创建了一个最先进的模型。通过自我对弈的循环,生成编排器的训练数据。在基准测试中,我们的编排器实现了与Mixtral模型相媲美的性能,但只有三分之二的成本。将GPT4集成到底层模型池中进一步提高了性能。这些发现表明我们的架构在优化多个LLMs之间的协同作用方面具有潜力。

🏷️

标签

➡️

继续阅读