하이퍼볼릭 자기주도 학습을 통한 자기지도형 뼈대 기반 동작 표현

자기 주도 학습(self-paced learning)은 약한 감독 학습 및 도메인 적응과 같이 초기 지식이 일부 존재하는 작업에서, 쉬운 것부터 어려운 것으로 순서를 정해 훈련 샘플 시퀀스를 선택하는 데 유용하게 활용되어 왔다. 그러나 이러한 기법은 훈련 과정 중에 작업에 대한 지식이 점차 성숙되는 비지도 학습 환경에서는 적용 가능성이 여전히 탐색되지 않은 상태이다. 본 논문에서는 뼈대 기반 동작 표현 학습을 위한 새로운 하이퍼볼릭 자기 주도 모델(HYperbolic Self-Paced model, HYSP)을 제안한다. HYSP는 자기 지도 학습(self-supervision)을 채택하며, 동일한 샘플에 대해 데이터 증강을 통해 두 가지 시각(view)을 생성하고, 하나를 '온라인'(online)으로, 다른 하나를 '타겟'(target)으로 설정하여 그 사이의 일치를 통해 학습한다. 본 연구에서는 하이퍼볼릭 불확실성(hyperbolic uncertainty)을 알고리즘의 학습 속도를 결정하는 기준으로 제안한다. 이는 불확실성이 낮은 샘플이 더 강하게 훈련을 이끄는 것이 타당하다는 가정에 기반하며, 이에 따라 더 큰 가중치와 빠른 학습 속도를 부여한다. 하이퍼볼릭 불확실성은 채택한 하이퍼볼릭 신경망의 부산물로서, 훈련 과정 중에 점차 성숙되며, 기존 유클리드 기반 자기 지도 학습(SSL) 프레임워크 대비 추가적인 비용 없이 자연스럽게 제공된다. 세 가지 표준적인 뼈대 기반 동작 인식 데이터셋에서의 실험 결과, HYSP는 PKU-MMD I에서 최신 기술(SOTA)을 초월하였으며, NTU-60과 NTU-120에서 각각 3개의 하류 작업 중 2개에서 우수한 성능을 보였다. 또한 HYSP는 양성 쌍(positive pairs)만을 사용하여 대조적 기법에서 요구되는 복잡하고 계산 비용이 큰 음성 쌍(negative pairs) 탐색 절차를 완전히 회피한다. 코드는 다음 링크에서 공개되어 있다: https://github.com/paolomandica/HYSP.