HyperAIHyperAI
il y a 2 mois

Régression ordonnée profonde utilisant la perte de transport optimal et des probabilités de sortie unimodales

Shaham, Uri ; Zaidman, Igal ; Svirsky, Jonathan
Régression ordonnée profonde utilisant la perte de transport optimal et des probabilités de sortie unimodales
Résumé

Il est souvent souhaité que les modèles de régression ordinale produisent des prédictions unimodales. Cependant, dans de nombreuses études récentes, cette caractéristique est soit absente, soit mise en œuvre à l'aide de cibles douces (soft targets), qui ne garantissent pas des sorties unimodales lors de l'inférence. De plus, nous soutenons que l'objectif standard de vraisemblance maximale n'est pas adapté aux problèmes de régression ordinale, et que le transport optimal est mieux adapté à cette tâche, car il capture naturellement l'ordre des classes. Dans ce travail, nous proposons un cadre pour la régression ordinale profonde, basé sur une distribution de sortie unimodale et une perte de transport optimal. Inspirés par le modèle bien connu des Odds Proportionnels, nous proposons de modifier sa conception en utilisant un mécanisme architectural qui garantit que la distribution de sortie du modèle sera unimodale. Nous analysons empiriquement les différents composants de notre approche proposée et démontrons leur contribution à la performance du modèle. Les résultats expérimentaux sur huit jeux de données du monde réel montrent que notre approche proposée se compare favorablement et souvent dépasse plusieurs approches d'apprentissage profond récemment proposées pour la régression ordinale profonde avec des probabilités de sortie unimodales, tout en offrant une garantie sur l'unimodalité des sorties. En outre, nous démontrons que notre approche proposée est moins surestimée que les méthodes actuelles utilisées comme référence (baselines).

Régression ordonnée profonde utilisant la perte de transport optimal et des probabilités de sortie unimodales | Articles de recherche récents | HyperAI