16일 전

순서 회귀를 위한 제약 조건이 부여된 딥 신경망

{Yanzhu Liu, Chi Keong Goh, Adams Wai Kin Kong}
순서 회귀를 위한 제약 조건이 부여된 딥 신경망
초록

순서 회귀(ordinal regression)는 인스턴스를 순서 있는 카테고리로 분류하는 지도 학습 문제이다. 클래스 내 정보와 클래스 간 순서 관계를 동시에 표현하는 고수준 특징을 자동으로 추출하는 것은 도전적인 과제이다. 본 논문은 다수의 카테고리에 대한 음의 로그우도(negative log-likelihood)를 최소화하면서 인스턴스 간 순서 관계를 제약 조건으로 두는 순서 회귀 문제를 위한 제약 최적화 공식을 제안한다. 수학적으로 이는 쌍별 정규화 항(pairwise regularizer)을 갖는 비제약 형태로 동등하게 표현될 수 있다. 제안된 방법은 CNN 기반의 구현을 통해 고수준 특징을 자동으로 추출할 수 있도록 하며, 전통적인 역전파(back-propagation) 방법을 통해 최적해를 학습할 수 있도록 한다. 제안된 쌍별 제약 조건은 소규모 데이터셋에서도 알고리즘이 효과적으로 작동하도록 하며, 효율적인 구현 방식을 통해 대규모 데이터셋에 대한 확장성도 보장한다. 네 가지 실세계 벤치마크에서의 실험 결과는 제안된 알고리즘이 기존의 딥러닝 기반 접근법과 수작업 특징(hand-crafted features) 기반 최첨단 기법들을 모두 능가함을 입증한다.

순서 회귀를 위한 제약 조건이 부여된 딥 신경망 | 최신 연구 논문 | HyperAI초신경