LoRI: Reducing Cross-Task Interference in Multi-Task Low-Rank Adaptation

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本文提出了一种新方法LoRI,旨在减少多任务低秩适应中的参数干扰和开销。通过随机投影和任务特定掩模,LoRI显著降低了可训练参数数量,同时保持强大性能,实验表明其可减少95%的可训练参数。

🏷️

标签

➡️

继续阅读