Transformer与注意力机制(二):多种注意力模块

Transformer与注意力机制(二):多种注意力模块

💡 原文英文,约2000词,阅读约需8分钟。
📝

内容提要

该文章介绍了不同类型的注意力模块及其代码,包括SENet、BAM、DANet、CBAM、Non-Local、SKNet、Criss-Cross Attention、Coordinate Attention和CA。这些模块常用于多尺度网络。

🏷️

标签

➡️

继续阅读