本地AI应用通过Hermes调度Qwen和Nemotron两个模型，实现专家小分队的协作。Hermes负责任务分配，提升效率和透明度。两个中等模型在特定任务上表现优于单一大模型，同时保障数据隐私。用户可掌控系统，降低成本，推动AI技术的民主化，未来每个人都能拥有自己的本地AI助理。

我们正在构建混合模型（MoM）系统，以提升大型语言模型（LLM）的集体智能。核心问题包括捕捉请求与响应信号、优化模型协作和确保系统安全。通过vLLM语义路由器，我们展示了在AMD GPU上实时路由查询的能力，支持多种模型和信号类型。MoM架构通过智能调度和能力匹配，实现高效的AI部署。

哈工大和鹏城实验室的研究人员提出了DeePEn框架，实现了Training-free的异构大模型集成学习，通过融合多个模型输出的概率分布，实现更深层次的模型协作。实验结果表明，DeePEn在多个公开数据集上取得了显著提升，有效扩展大模型性能边界。