두 가지 동시에: IBN-Net을 통한 학습 및 일반화 능력 향상

컨벌루션 신경망(CNNs)은 많은 컴퓨터 비전 문제에서 큰 성공을 거두었습니다. 기존 연구들은 단일 도메인의 단일 작업에 대한 성능 향상을 위해 CNN 아키텍처를 설계하였으나, 일반화 능력이 부족하였습니다. 우리는 이러한 한계를 극복하기 위해 IBN-Net이라는 새로운 커널 아키텍처를 제시합니다. 이 아키텍처는 특정 도메인(예: Cityscapes)에서의 모델링 능력을 크게 향상시키면서도 다른 도메인(예: GTA5)에서도 미세 조정(finetuning) 없이 일반화 능력을 높이는 특징을 가지고 있습니다. IBN-Net은 인스턴스 정규화(IN)와 배치 정규화(BN)를 구성 요소로 신중하게 통합하여, 다양한 고급 딥러닝 네트워크에 적용할 수 있으며 성능을 개선하는 역할을 합니다. 본 연구는 세 가지 주요 기여점을 가지고 있습니다.IN과 BN에 대한 깊은 탐구를 통해, IN이 색상, 스타일, 가상성/현실성 등의 외관 변화에 불변(invariant)한 특성을 학습한다는 것을 밝혔습니다. 반면에 BN은 내용 관련 정보를 보존하는 데 필수적임을 확인하였습니다.IBN-Net은 DenseNet, ResNet, ResNeXt, SENet 등 다양한 고급 딥 아키텍처에 적용될 수 있으며, 계산 비용을 증가시키지 않는 상태에서 일관되게 성능을 향상시킵니다.훈련된 네트워크를 새로운 도메인으로 적용할 때, 예를 들어 GTA5에서 Cityscapes로 적용할 경우, IBN-Net은 대상 도메인의 데이터를 사용하지 않아도 도메인 적응 방법과 유사한 개선 효과를 나타냅니다.IBN-Net을 사용하여 우리는 WAD 2018 챌린지 주행 가능 영역 트랙에서 1위를 차지하였으며, mIoU 지표가 86.18%였습니다.