11일 전
순서 엔트로피를 통한 딥 회귀 개선
Shihao Zhang, Linlin Yang, Michael Bi Mi, Xiaoxu Zheng, Angela Yao

초록
컴퓨터 비전 분야에서는 회귀 문제를 분류 문제로 재정의하는 것이 종종 더 뛰어난 성능을 보인다는 관찰이 자주 이루어진다. 본 연구에서는 이러한 이상한 현상에 대해 탐구하며, 교차 엔트로피 손실을 사용하는 분류 방식이 평균 제곱 오차 손실을 사용하는 회귀 방식보다 고 엔트로피 특징 표현을 학습하는 데 더 우수함을 수학적으로 도출한다. 분석을 바탕으로, 순서 관계를 유지하면서 더 높은 엔트로피의 특징 공간을 유도하기 위해 순서 엔트로피 손실(ordinal entropy loss)을 제안한다. 합성 데이터 및 실제 세계의 회귀 과제에 대한 실험을 통해, 회귀 문제에서 엔트로피를 증가시키는 것이 중요하며 성능 향상에 기여함을 입증한다.