2 个月前
OneRestore:一种用于复合退化的通用恢复框架
Yu Guo; Yuan Gao; Yuxu Lu; Huilin Zhu; Ryan Wen Liu; Shengfeng He

摘要
在实际场景中,图像损伤通常表现为复合退化,涉及低光、雾霾、雨和雪等多种因素的复杂相互作用。尽管如此,现有的修复方法往往针对单一类型的退化,因此在多种退化因素共存的环境中表现不佳。为了弥补这一不足,本研究提出了一种多功能成像模型,整合了四种物理腐蚀范式,以准确表示复杂的复合退化场景。在此背景下,我们提出了OneRestore,这是一种基于变压器的新框架,旨在实现自适应且可控的场景修复。该框架利用了一种独特的交叉注意力机制,将退化的场景描述符与图像特征融合,从而实现细致入微的修复效果。我们的模型支持多种输入场景描述符,包括手动文本嵌入和基于视觉属性的自动提取。此外,通过引入一种复合退化修复损失函数,并使用额外的退化图像作为负样本以加强模型约束,进一步提升了我们的方法论。在合成数据集和真实世界数据集上的对比结果表明,OneRestore是一种优越的解决方案,在应对复杂的复合退化方面显著推进了现有技术水平。