2 个月前
快速且可解释的非局部神经网络通过组稀疏卷积字典学习用于图像去噪
Janjušević, Nikola ; Khalilian-Gourtani, Amirhossein ; Flinker, Adeen ; Wang, Yao

摘要
自然图像中的非局部自相似性已成为深度学习模型中越来越受欢迎的先验条件。尽管这些模型在图像恢复方面表现出色,但由于其黑箱构造,它们仍然难以解释。我们之前的研究表明,通过展开字典学习算法,可以构建一个完全可卷积的去噪器(CDLNet),其性能与最先进的黑箱模型相当,并且具有可解释性。在本文中,我们试图构建一个具有非局部自相似性先验的卷积网络,其性能与黑箱非局部模型相当。我们证明了通过将CDLNet的$\ell 1$稀疏先验升级为加权组稀疏先验,可以有效地实现这一架构。基于这一公式,我们提出了一种新的滑动窗口非局部操作,该操作由稀疏数组算术支持。除了与黑箱非局部深度神经网络(DNN)相当的性能外,我们还展示了所提出的滑动窗口稀疏注意力机制使得推理速度比竞争对手快一个数量级以上。