RKHS와 GAN을 통한 감독형 표현 학습 이해를 위한 탐구

심층 감독 학습의 성공은 자동 데이터 표현 능력에 달려 있다. 고차원 복잡한 데이터에 대한 우수한 표현은 정보 손실을 최소화하면서도 저차원화와 분리성(디센틀링)을 동시에 만족해야 한다.본 연구에서는 재생 커널 힐베르트 공간(RKHS)과 생성적 적대 학습(GAN)을 활용하여 심층 표현 목표가 어떻게 달성될 수 있는지를 통계적 관점에서 설명한다. 인구 수준에서, 우리는 조건부 독립성(RKHS를 통해 특성화된 손실)과 분리성(GAN을 통해 특성화된 손실)을 동시에 최소화하는 비선형 변환을 찾는 것을 이상적인 표현 학습 문제로 설정한다. 표본 수준에서는 심층 신경망을 이용하여 비모수적 방법으로 목표 변환을 추정한다. 또한 인구 수준의 목적 함수 값에 대해 일관성(coherence)을 입증한다. 제안된 방법의 타당성을 회귀 및 분류 문제의 맥락에서 종합적인 수치 실험과 실제 데이터 분석을 통해 검증하였으며, 그 결과 기존 최고 수준의 방법들보다 뛰어난 예측 정확도를 달성하였다.