Transformer를 활용한 점군 분류 및 세그멘테이션에서의 귀납적 편향 이용

점 좌표에서 효율적인 고차원 특징 추출을 위한 점 간 연결 관계의 발견은 포인트 클라우드 처리에서 핵심적인 과제입니다. 기존의 대부분 방법들은 효율적인 국소 특징 추출기를 설계하는 데 집중하면서 전역 연결을 무시하거나, 혹은 그 반대입니다. 본 논문에서는 국소적 및 전역적 주의를 모두 고려하여 3D 점 간 관계를 학습하기 위한 새로운 유도 편향 보조 변환기 (Inductive Bias-aided Transformer, IBT) 방법을 설계하였습니다. 구체적으로, 국소 공간 일관성을 고려하여 상대 위치 인코딩 (Relative Position Encoding)과 주의 기반 특징 풀링 (Attentive Feature Pooling)을 통해 국소 특징 학습이 수행됩니다. 우리는 이 학습된 국소성을 변환기 모듈에 통합하였습니다. 국소 특징은 변환기의 값 구성요소에 영향을 미쳐 각 점의 채널 간 관계를 조절하며, 이는 국소성 기반 채널 상호작용으로 자가 주의 메커니즘을 강화할 수 있습니다. 우리는 분류 및 세그멘테이션 작업에서 실험적으로 이 방법의 우수성을 입증하였습니다. 코드는 다음 링크에서 확인 가능합니다: https://github.com/jiamang/IBT