使用概率遮蔽进行基础模型的联邦微调

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

本研究提出了一种通过优化二进制掩码而不是模型权重的新方法,以提高随机联合学习的通信效率。实验证明,该方法在通信和内存效率方面显著提高,准确性几乎没有下降。

🏷️

标签

➡️

继续阅读