11일 전

HomoFormer: 이미지 그림자 제거를 위한 동질화 트랜스포머

{Zheng-Jun Zha, Kai Zhu, Jie Huang, Dong Li, Yurui Zhu, Xueyang Fu, Jie Xiao}
HomoFormer: 이미지 그림자 제거를 위한 동질화 트랜스포머
초록

그림의 그림자 품질 저하가 공간적으로 균일하지 않고 다양한 패턴을 띠는 특성은 주류 모델에서 널리 채택되는 가중치 공유 방식과 충돌하여 만족스럽지 않은 타협을 초래할 수 있다. 이 문제를 해결하기 위해 본 논문에서는 그림자 변환의 관점에서 새로운 전략을 제안한다. 즉, 그림자 저하의 공간 분포를 직접 균질화하는 방식이다. 본 연구의 핵심 설계는 무작위 셔플링(random shuffle) 연산과 그 역연산이다. 구체적으로, 무작위 셔플링 연산은 공간적 영역 내 픽셀들을 확률적으로 재배열하며, 역연산은 원래의 순서를 복원한다. 무작위 셔플링을 수행함으로써 그림자는 전체 이미지 내에서 확산되며, 저하가 균일하게 분포하게 되어 국소적 자기주목(self-attention) 레이어에 효과적으로 처리될 수 있다. 더불어, 이미지의 구조적 정보를 효과적으로 활용하기 위해 위치 모델링을 도입한 새로운 피드포워드 네트워크를 설계하였다. 이러한 요소들을 기반으로, 국소 창 기반의 트랜스포머 모델인 HomoFormer을 구축하였다. 제안하는 HomoFormer은 국소 트랜스포머의 선형 복잡도를 유지하면서도, 그림자의 비균일성과 다양성 문제를 회피할 수 있다. 공개 데이터셋을 대상으로 실시한 광범위한 실험을 통해 HomoFormer의 우수성이 검증되었다.

HomoFormer: 이미지 그림자 제거를 위한 동질화 트랜스포머 | 최신 연구 논문 | HyperAI초신경