VMT-Adapter: 多任务强化学习的参数高效迁移学习

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

本文提出全能视觉多任务适配器(VMT-Adapter)用于计算机视觉任务,通过共享任务知识增强跨任务交互,保留任务特定知识。同时提出VMT-Adapter-Lite以减少可训练参数。实验证明VMT-Adapter(-Lite)相对改进3.96%(1.34%),仅利用预训练模型约1%(0.36%)的可训练参数。

🎯

关键要点

  • 提出全能视觉多任务适配器(VMT-Adapter)用于计算机视觉任务。
  • VMT-Adapter通过共享任务知识增强跨任务交互,保留任务特定知识。
  • 提出VMT-Adapter-Lite以减少可训练参数。
  • VMT-Adapter的训练和推理效率与任务数量近似为O(1)。
  • 实验证明VMT-Adapter相对改进3.96%,VMT-Adapter-Lite相对改进1.34%。
  • VMT-Adapter仅利用预训练模型约1%的可训练参数,VMT-Adapter-Lite利用约0.36%。
➡️

继续阅读