本文提出了一种新方法LoRI,旨在减少多任务低秩适应中的参数干扰和开销。通过随机投影和任务特定掩模,LoRI显著降低了可训练参数数量,同时保持强大性能,实验表明其可减少95%的可训练参数。
完成下面两步后,将自动完成登录并继续当前操作。