2달 전
OneRestore: 복합적 훼손을 위한 보편적인 복원 프레임워크
Yu Guo; Yuan Gao; Yuxu Lu; Huilin Zhu; Ryan Wen Liu; Shengfeng He

초록
실제 상황에서 이미지 손상은 종종 복합적인 저하 형태로 나타나며, 낮은 조명, 안개, 비, 눈 등의 요소가 복잡하게 상호 작용합니다. 그러나 이러한 현실에도 불구하고, 기존의 복원 방법들은 일반적으로 단일 저화 유형을 대상으로 하기 때문에 여러 개의 저화 인자가 공존하는 환경에서는 부족한 면이 있습니다. 이 간극을 메우기 위해 본 연구는 네 가지 물리적 부식 패러다임을 통합하여 복잡하고 복합적인 저화 시나리오를 정확히 표현할 수 있는 다목적 영상 모델을 제안합니다. 이와 관련하여 우리는 OneRestore라는 새로운 트랜스포머 기반 프레임워크를 제안하는데, 이는 적응적이고 제어 가능한 장면 복원을 위한 것입니다. 제안된 프레임워크는 고유한 크로스 어텐션 메커니즘을 활용하여 저화된 장면 설명자와 이미지 특성을 결합하여 세밀한 복원을 가능하게 합니다. 우리의 모델은 수동 텍스트 임베딩부터 시각적 속성에 기반한 자동 추출까지 다양한 입력 장면 설명자를 허용합니다. 또한, 추가로 저화된 이미지를 부정 샘플로 사용하는 복합적 저화 복원 손실을 통해 모델 제약 조건을 강화하여 방법론을 더욱 개선하였습니다. 합성 데이터셋과 실제 데이터셋에서의 비교 결과는 OneRestore가 우수한 해결책이며, 특히 복잡하고 복합적인 저화 문제 해결에서 현행 최고 수준의 성능을 크게 발전시켰음을 보여줍니다.