ExpPoint-MAE: 자기지도형 포인트 클라우드 트랜스포머를 위한 더 나은 해석 가능성과 성능

본 논문에서는 포인트 클라우드 도메인에서 자기지도 학습(self-supervision)을 통해 얻어진 트랜스포머의 특성에 대해 탐구한다. 구체적으로, 마스킹된 오토인코딩(Masked Autoencoding)을 사전 학습 방법으로 효과적으로 평가하고, 모멘텀 컨트라스트(Momentum Contrast)를 대안으로 탐색한다. 본 연구에서는 학습 데이터의 양이 학습된 특징에 미치는 영향을 조사하며, 다양한 도메인 간 트랜스포머의 행동이 공통된 특성을 지닌다는 점을 발견한다. 포괄적인 시각화를 통해 트랜스포머가 의미 있는 의미적 영역에 주목하는 방식으로 학습됨을 관찰할 수 있었으며, 이는 사전 학습이 기저 기하 구조에 대한 더 깊은 이해를 가능하게 한다는 것을 시사한다. 또한, 미세 조정(finetuning) 과정과 그로 인한 학습된 표현에 미치는 영향을 분석한다. 이러한 분석을 바탕으로, 모델이나 학습 파이프라인에 추가적인 수정 없이도 기준 모델을 일관되게 초월하는 언프리징(unfreezing) 전략을 제안하였으며, 트랜스포머 기반 모델 중에서 분류 작업에서 최고 수준의 성능을 달성하였다.