VMT-Adapter: 多任务强化学习的参数高效迁移学习
💡
原文中文,约500字,阅读约需2分钟。
📝
内容提要
本文提出全能视觉多任务适配器(VMT-Adapter)用于计算机视觉任务,通过共享任务知识增强跨任务交互,保留任务特定知识。同时提出VMT-Adapter-Lite以减少可训练参数。实验证明VMT-Adapter(-Lite)相对改进3.96%(1.34%),仅利用预训练模型约1%(0.36%)的可训练参数。
🎯
关键要点
- 提出全能视觉多任务适配器(VMT-Adapter)用于计算机视觉任务。
- VMT-Adapter通过共享任务知识增强跨任务交互,保留任务特定知识。
- 提出VMT-Adapter-Lite以减少可训练参数。
- VMT-Adapter的训练和推理效率与任务数量近似为O(1)。
- 实验证明VMT-Adapter相对改进3.96%,VMT-Adapter-Lite相对改进1.34%。
- VMT-Adapter仅利用预训练模型约1%的可训练参数,VMT-Adapter-Lite利用约0.36%。
➡️