채널화된 축 방향 주의 메커니즘을 통한 세분화 분류 — 공간적 주의 메커니즘 내부의 채널 관계 고려

공간적 및 채널적 주의(attention)는 각각 공간 차원과 채널 차원에서의 의미적 상호의존성을 모델링하는 데 최근 널리 사용되고 있다. 그러나 공간적 주의와 채널적 주의를 별도로 계산하는 방식은 특히 어려운 경우에서 오류를 유발할 수 있다. 본 논문에서는 계산 부담이 거의 없는 수준에서 채널적 주의와 공간적 주의를 하나의 연산으로 원활하게 통합할 수 있는 채널화된 축 주의(Channelized Axial Attention, CAA)를 제안한다. 구체적으로 공간적 주의의 내적곱(dot-product) 연산을 두 부분으로 분해하고 그 사이에 채널 관계를 삽입함으로써, 각 공간 위치에 대해 독립적으로 최적화된 채널적 주의를 가능하게 한다. 또한, 그룹화된 벡터화(grouped vectorization) 기법을 도입하여 모델이 매우 낮은 메모리 소비로 빠른 속도로 실행될 수 있도록 하였다. Cityscapes, PASCAL Context, COCO-Stuff 등 다양한 벤치마크 데이터셋에서 수행한 비교 실험 결과, 제안한 CAA는 기존의 여러 최첨단 세그멘테이션 모델(이중 주의(dual attention) 포함)을 모두 상회하는 성능을 보였다.