PVT：特征金字塔在Vision Transormer的首次应用，又快又好 | ICCV 2021 - 晓飞的算法工程笔记
原文中文，约3900字，阅读约需10分钟。
📝
内容提要
论文提出了一种用于密集预测任务的纯Transformer主干网络PVT，结合特征金字塔结构和空间缩减注意力层，能够在有限资源下生成高分辨率和多尺度特征图。实验结果表明，PVT在物体检测和语义分割任务中优于传统的CNN主干网络。
❓
Q&A
PVT是什么？
PVT是用于密集预测任务的纯Transformer主干网络，结合特征金字塔结构和空间缩减注意力层。
PVT如何生成多尺度特征图？
PVT通过特征金字塔结构生成四个不同尺寸的特征图，并使用渐进收缩策略控制特征图的尺寸。
PVT在物体检测和语义分割中的表现如何？
PVT在物体检测和语义分割任务中表现优于传统的CNN主干网络。
PVT与传统CNN的主要区别是什么？
PVT使用纯Transformer架构和特征金字塔结构，而传统CNN依赖卷积层来生成多尺度特征图。
PVT的空间缩减注意力层有什么优势？
空间缩减注意力层降低了计算和内存开销，适用于处理高分辨率特征图。
PVT的不同版本参数量如何？
PVT设计了不同尺度的版本，参数量分别对标ResNet18、50、101和152。
🏷️
