本文提出了一种新方法LoRI,旨在减少多任务低秩适应中的参数干扰和开销。通过随机投影和任务特定掩模,LoRI显著降低了可训练参数数量,同时保持强大性能,实验表明其可减少95%的可训练参数。
本文探讨了一种基于Transformer的多任务学习模型合并方法,通过识别共享知识与任务特定知识来减轻参数干扰。研究表明,采用二进制掩码的深度神经网络和层次神经元共享方案能够有效提升模型性能,实现模型压缩并减少计算资源消耗。实验结果显示该方法在多任务场景中表现优异。
完成下面两步后,将自动完成登录并继续当前操作。