2달 전

최적 운송 손실과 단일 모드 출력 확률을 사용한 깊은 순서 회귀

Shaham, Uri ; Zaidman, Igal ; Svirsky, Jonathan
최적 운송 손실과 단일 모드 출력 확률을 사용한 깊은 순서 회귀
초록

순서 회귀 모델이 단일모odal(단일봉) 예측을 제공하는 것이 종종 바람직합니다. 그러나 최근의 많은 연구에서는 이 특성이 부족하거나, 추론 시 단일모odal 출력을 보장하지 않는 소프트 타겟을 사용하여 구현되는 경우가 많습니다. 또한, 우리는 표준 최대 우도 목적함수가 순서 회귀 문제에 적합하지 않다고 주장하며, 최적 운송이 이 작업에 더 적합하다고 생각합니다. 왜냐하면 최적 운송은 클래스의 순서를 자연스럽게 포착하기 때문입니다. 본 연구에서는 단일모odal 출력 분포와 최적 운송 손실을 기반으로 하는 깊은 순서 회귀 프레임워크를 제안합니다. 잘 알려진 비례 확률 모델에서 영감을 얻어, 아키텍처 메커니즘을 사용하여 모델의 출력 분포가 단일모odal임을 보장하도록 설계를 수정하였습니다. 우리는 제안된 접근 방식의 다양한 구성 요소들을 경험적으로 분석하고, 이들이 모델 성능에 미치는 영향을 입증하였습니다. 8개의 실제 데이터셋에 대한 실험 결과는 제안된 접근 방식이 단일모odal 출력 확률을 갖는 최근의 여러 딥러닝 접근 방식과 비교해 일관되게 동등하거나 종종 더 우수한 성능을 보이며, 출력 단일모odality를 보장한다는 것을 보여주었습니다. 또한, 제안된 접근 방식이 현재 베이스라인보다 덜 과신한다는 것을 입증하였습니다.

최적 운송 손실과 단일 모드 출력 확률을 사용한 깊은 순서 회귀 | 최신 연구 논문 | HyperAI초신경