Efficient Distributed Retrieval-Augmented Generation Method for Enhancing Language Model Performance

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了DRAGON分布式检索增强生成框架,旨在提升小型语言模型在资源受限边缘设备上的推理性能。通过整合通用和个人知识,DRAGON显著提高了模型性能,降低了延迟,并提升了生成效率,同时保护文档隐私。

🏷️

标签

➡️

继续阅读