iVPT:通过跨层动态连接改进视觉提示调整中的任务相关信息共享
原文中文,约300字,阅读约需1分钟。发表于: 。最近的进展显示出了将预训练的视觉转换器应用到各种下游任务中的视觉提示调整(VPT)的巨大潜力。本文提出了一种创新的 VPT 方法,即 iVPT,它通过从相邻层的输入提示令牌中引入跨层动态连接(CDC),实现了任务相关信息的有效共享,并采用动态聚合(DA)模块促进了层间信息的选择性共享。基于这些基础,iVPT...
最近的研究显示,将预训练的视觉转换器应用到各种下游任务中的视觉提示调整(VPT)具有巨大潜力。本文提出了一种创新的VPT方法,即iVPT,通过引入跨层动态连接(CDC)和动态聚合(DA)模块,实现了任务相关信息的共享和选择性共享。iVPT还引入了关注强化(AR)机制,通过增强图像令牌与提示令牌的关系来提高性能。实验证明iVPT相对于现有方法具有优势。