Efficient Federated Finetuning of Tiny Transformers on Resource-Constrained Devices

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了一种新颖的层微调方案,旨在提高资源受限设备上联邦学习中大型语言模型的效率。该方案在计算和内存约束下优于现有方法,并在有限通信条件下的准确度与LoRA相当,显著提升了训练准确性。

🏷️

标签

➡️

继续阅读