BriefGPT - AI 论文速递 · 2024-11-10T00:00:00Z Federated Fine-tuning of Large Language Models Based on Importance-Aware Adaptive LoRA 💡 原文英文，约100词，阅读约需1分钟。 📝 内容提要 本文提出了一种新的异构自适应联邦低秩适应（HAFL）框架，旨在解决联邦微调大语言模型在多样化数据集上适应特定任务时的计算和通信挑战。研究表明，该方法通过引入重要性参数截断和冻结方案，实现了快速收敛和低通信成本，同时保持了模型性能。 🏷️ 标签 lora models 低秩适应 大语言模型 异构自适应 快速收敛 联邦学习 阅读原文 生成长图 分享链接 已复制链接
