18 天前

iiTransformer:一种统一方法,用于利用局部与非局部信息进行图像修复

{Tammy Lee, Hanul Shin, Youngchan Song, Soo Min Kang}
iiTransformer:一种统一方法,用于利用局部与非局部信息进行图像修复
摘要

图像修复的目标是从退化的输入图像中恢复出高质量的图像。尽管卷积神经网络(CNNs)在各类图像修复任务中已取得显著成果,但卷积操作受限于其感受野范围,难以有效利用感受野之外的信息。相比之下,基于自注意力机制建模输入长程依赖关系的Transformer,在多种高层视觉任务中展现出优异性能。本文提出了一种新型架构——像素级与块级交互Transformer(iiTransformer),通过显式建模像素级与块级的长程依赖关系,充分融合局部与非局部特征相关性带来的优势。此外,我们设计了一种无边界伪影的解决方案,可支持任意尺寸图像的处理。通过在多种图像修复任务上的大量实验,我们验证了iiTransformer作为通用骨干网络的潜力。