초록
복잡한 데이터에 대한 뛰어난 표현 능력을 지닌 딥 뉴럴 네트워크(DNN) 기반 접근법은 순서형 회귀 문제, 즉 인스턴스를 순서형 카테고리로 분류하는 문제에서 최신 기술 수준에 위치하고 있다. 그러나 DNN은 불확실성을 포착하거나 확률적 해석을 제공하지 못한다는 한계가 있다. 반면 확률 모델인 가우시안 프로세스(GP)는 불확실성 정보를 제공하지만, 대규모 데이터셋에 대한 확장성 측면에서 부족하다는 문제가 있다. 본 논문은 공액 및 비공액 순서형 가능도(likelihood)를 활용하여 기존 GP 회귀를 순서형 회귀 문제에 적응시켰다. 이를 바탕으로, 위쪽에 GP 레이어를 두고 딥 뉴럴 네트워크를 구성한 새로운 모델을 제안하며, 신경망 파라미터와 GP 파라미터를 동시에 최적화하기 위해 확률적 경사 하강법(stochastic gradient descent)을 사용하여 엔드 투 엔드로 학습한다. 순서형 가능도 함수 내의 파라미터는 신경망 파라미터로 학습되므로, 제안하는 프레임워크는 학습 데이터에 대한 적합된 가능도 함수를 생성하고, 테스트 포인트에 대해 확률적 예측을 수행할 수 있다. 이미지 미적 평가, 역사적 이미지 등급 분류, 연령 그룹 추정이라는 세 가지 실제 벤치마크에서의 실험 결과를 통해, 평균 절대 오차(mean absolute error) 측면에서 제안된 방법이 최신 기술 수준의 순서형 회귀 접근법을 모두 상회하며, 예측에 대한 신뢰도(confidence)를 제공함을 입증하였다.