FedPT: Federated Proxy-Tuning of Large Language Models on Resource-Constrained Edge Devices

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出FedPT框架,旨在解决资源受限设备上微调大型语言模型的隐私和计算负担问题。该框架通过仅访问模型输出词汇的预测,显著降低计算、通信和内存开销,同时保持竞争性性能,具有广泛的应用潜力。

🎯

关键要点

  • FedPT框架旨在解决资源受限设备上微调大型语言模型的隐私和计算负担问题。
  • 该框架通过仅访问模型输出词汇的预测,显著降低计算、通信和内存开销。
  • FedPT在保持竞争性性能的同时,具有广泛的应用潜力。
➡️

继续阅读