基于多尺度低高频信息的跨黑注意力图像超分辨率变换器ML-CrAIST
💡
原文中文,约1500字,阅读约需4分钟。
📝
内容提要
本研究提出了多种新型网络结构以提升单张图像超分辨率性能,包括整体注意力网络(HAN)、轻量级卷积神经网络、混合Transformer和CNN注意网络等。这些模型通过引入不同的注意力机制和模块,在图像重构中表现优异,超越了现有方法,具有更高的效率和更好的视觉效果。
🎯
关键要点
- 本研究提出了一种整体注意力网络(HAN),包括层注意力模块(LAM)和通道-空间注意力模块(CSAM),以解决通道注意力对不同图层相关性的忽视问题。
- 设计了一种轻量级卷积神经网络,采用像素关注机制,参数量显著低于现有模型,效果良好。
- 提出了一种高效的长程注意力网络,结合变换器和转移学习结构,使用自我注意力机制和多尺度自我注意力模块。
- 开发了Hybrid Attention Transformer模型,融合通道注意力和基于窗口的自注意机制,实验结果显示其超分辨率性能优于现有方法。
- 提出了多尺度关注网络(MAN),通过多尺度大型核关注和门控空间关注单元提高卷积SR网络性能。
- 设计了一种新的关注区块,结合全局像素访问模块和Intra-Patch自我关注模块,提升图像恢复的感知质量。
- HTCAN混合Transformer和CNN注意网络在NTIRE 2023立体图像超分辨率挑战中获胜。
- 引入卷积非局部稀疏注意力块(NLSA)扩展混合变压器架构,改善定量和主观性能。
- 提出混合多轴聚合网络(HMA),通过叠加残差混合Transformer块和网格注意力块提升超分辨率视觉任务的特征潜力。
- 将transformer-based SR网络转换为分层transformers(HiT-SR),使用扩展的分层窗口聚合不同尺度特征,提升SR性能。
❓
延伸问答
什么是整体注意力网络(HAN)?
整体注意力网络(HAN)是一种新型网络结构,旨在解决通道注意力对不同图层相关性的忽视问题,包含层注意力模块(LAM)和通道-空间注意力模块(CSAM)。
轻量级卷积神经网络的特点是什么?
轻量级卷积神经网络采用像素关注机制,参数量显著低于现有模型,且在图像超分辨率任务中表现良好。
Hybrid Attention Transformer模型的创新点是什么?
Hybrid Attention Transformer模型融合了通道注意力和基于窗口的自注意机制,实验结果显示其超分辨率性能优于现有方法。
多尺度关注网络(MAN)如何提高超分辨率性能?
多尺度关注网络(MAN)通过多尺度大型核关注和门控空间关注单元来提升卷积SR网络的性能。
HTCAN模型在NTIRE 2023挑战中的表现如何?
HTCAN混合Transformer和CNN注意网络在NTIRE 2023立体图像超分辨率挑战中获胜,展示了其优越的性能。
HiT-SR的设计理念是什么?
HiT-SR通过将transformer-based SR网络转换为分层transformers,使用扩展的分层窗口聚合不同尺度特征,以提升超分辨率性能。
🏷️
标签
➡️