基于多尺度低高频信息的跨黑注意力图像超分辨率变换器ML-CrAIST

💡 原文中文,约1500字,阅读约需4分钟。
📝

内容提要

本研究提出了多种新型网络结构以提升单张图像超分辨率性能,包括整体注意力网络(HAN)、轻量级卷积神经网络、混合Transformer和CNN注意网络等。这些模型通过引入不同的注意力机制和模块,在图像重构中表现优异,超越了现有方法,具有更高的效率和更好的视觉效果。

🎯

关键要点

  • 本研究提出了一种整体注意力网络(HAN),包括层注意力模块(LAM)和通道-空间注意力模块(CSAM),以解决通道注意力对不同图层相关性的忽视问题。
  • 设计了一种轻量级卷积神经网络,采用像素关注机制,参数量显著低于现有模型,效果良好。
  • 提出了一种高效的长程注意力网络,结合变换器和转移学习结构,使用自我注意力机制和多尺度自我注意力模块。
  • 开发了Hybrid Attention Transformer模型,融合通道注意力和基于窗口的自注意机制,实验结果显示其超分辨率性能优于现有方法。
  • 提出了多尺度关注网络(MAN),通过多尺度大型核关注和门控空间关注单元提高卷积SR网络性能。
  • 设计了一种新的关注区块,结合全局像素访问模块和Intra-Patch自我关注模块,提升图像恢复的感知质量。
  • HTCAN混合Transformer和CNN注意网络在NTIRE 2023立体图像超分辨率挑战中获胜。
  • 引入卷积非局部稀疏注意力块(NLSA)扩展混合变压器架构,改善定量和主观性能。
  • 提出混合多轴聚合网络(HMA),通过叠加残差混合Transformer块和网格注意力块提升超分辨率视觉任务的特征潜力。
  • 将transformer-based SR网络转换为分层transformers(HiT-SR),使用扩展的分层窗口聚合不同尺度特征,提升SR性能。

延伸问答

什么是整体注意力网络(HAN)?

整体注意力网络(HAN)是一种新型网络结构,旨在解决通道注意力对不同图层相关性的忽视问题,包含层注意力模块(LAM)和通道-空间注意力模块(CSAM)。

轻量级卷积神经网络的特点是什么?

轻量级卷积神经网络采用像素关注机制,参数量显著低于现有模型,且在图像超分辨率任务中表现良好。

Hybrid Attention Transformer模型的创新点是什么?

Hybrid Attention Transformer模型融合了通道注意力和基于窗口的自注意机制,实验结果显示其超分辨率性能优于现有方法。

多尺度关注网络(MAN)如何提高超分辨率性能?

多尺度关注网络(MAN)通过多尺度大型核关注和门控空间关注单元来提升卷积SR网络的性能。

HTCAN模型在NTIRE 2023挑战中的表现如何?

HTCAN混合Transformer和CNN注意网络在NTIRE 2023立体图像超分辨率挑战中获胜,展示了其优越的性能。

HiT-SR的设计理念是什么?

HiT-SR通过将transformer-based SR网络转换为分层transformers,使用扩展的分层窗口聚合不同尺度特征,以提升超分辨率性能。

➡️

继续阅读