QN-Mixer:一种用于稀疏视 CT 重建的拟牛顿 MLP-Mixer 模型
内容提要
该文综述深度学习求解病态反问题的进展,涵盖部分学习结合正则化与CNN提升CT重建质量、端到端网络加数据校准实现无噪声CT数值精确重建、深度网络用于稀疏视图CT和qMRI映射及快速反演,并提出随机二阶优化、深度平衡架构和Nesterov近端梯度等改进方法,同时指出CNN在稀疏视图CT中的局限。
延伸解读
稀疏视图CT的深度学习进展与局限
文章梳理了深度学习在稀疏视图CT重建中的多项进展:从2016年使用深度卷积网络实现快速重建,到2018年正弦图合成方法,再到2022年端到端网络结合数据校准达到数值精度。然而,2020年的研究指出,在特定条件下CNN无法解决稀疏视图CT的逆问题,这提示读者需谨慎看待CNN在医学成像逆问题中的泛化能力。
优化算法与架构创新的融合
文章介绍了随机二阶优化、深度平衡架构和Nesterov近端梯度等改进方法。随机二阶优化通过低维子空间维护Hessian近似,平衡计算效率与内存;深度平衡架构利用低分辨率图像正则化提升重建质量;Nesterov加速则用于降低伪影。这些方法共同指向一个趋势:将经典优化理论与深度学习结合,以提升病态反问题的求解性能。
从部分学习到端到端:方法演进
文章提及了部分学习方法,将正则化理论与深度学习结合,以数据差异和正则化器梯度作为CNN输入,在512x512体积内相比FBP和TV重建提升5.4dB PSNR。同时,端到端网络加数据校准的方案展示了无噪声CT的数值精确重建。这两种路径反映了深度学习求解反问题的不同策略:前者嵌入迭代过程,后者直接学习逆映射。
Q&A
QN-Mixer 模型是用于什么任务的?
QN-Mixer 是一种拟牛顿 MLP-Mixer 模型,用于稀疏视图 CT 重建。
QN-Mixer 结合了哪些优化技术?
QN-Mixer 结合了随机梯度下降的计算效率和拟牛顿法利用的二阶曲率信息,通过维护每个贡献函数的独立 Hessian 近似值来实现。
QN-Mixer 在稀疏视图 CT 重建中相比传统方法有哪些优势?
QN-Mixer 能够高效解决高维优化问题,保持计算可行性和限制内存需求,且需要很少或不需要调整超参数,在稀疏视图 CT 重建中可能提供更好的重建质量。
QN-Mixer 如何处理 Hessian 近似值以降低内存需求?
QN-Mixer 将每个贡献函数的独立 Hessian 近似值存储和操作在一个共享的、时变的、低维度子空间中,从而保持计算可行性和限制内存需求。
QN-Mixer 是否需要大量超参数调优?
不需要,QN-Mixer 需要很少或不需要调整超参数。
QN-Mixer 在哪些优化问题上进行了实验验证?
QN-Mixer 在七个不同的优化问题上进行了实验,并表现出改进的收敛性能。