HyperAIHyperAI
il y a 2 mois

Forte Base de Lignes pour l'Apprentissage Semi-supervisé Neural sous Décalage de Domaine

Sebastian Ruder; Barbara Plank
Forte Base de Lignes pour l'Apprentissage Semi-supervisé Neural sous Décalage de Domaine
Résumé

Des modèles neuronaux novateurs ont été proposés ces dernières années pour l'apprentissage en présence de décalages de domaine. La plupart de ces modèles ne sont toutefois évalués que sur une seule tâche, des jeux de données propriétaires ou par rapport à des baselines faibles, ce qui rend difficile la comparaison entre les différents modèles. Dans cet article, nous réévaluons les approches classiques d'autobootstrapping dans le contexte des réseaux neuronaux en présence de décalages de domaine, en les confrontant aux méthodes neurales récentes, et nous proposons une nouvelle méthode d'entraînement tripartite multi-tâches qui réduit la complexité temporelle et spatiale de l'entraînement tripartite classique. Les expériences menées sur deux benchmarks sont mitigées : bien que notre méthode novatrice établisse un nouveau niveau d'excellence pour l'analyse de sentiments, elle n'est pas constamment la meilleure. Plus important encore, nous arrivons à la conclusion quelque peu surprenante que l'entraînement tripartite classique, avec quelques ajouts, surpasses l'état de l'art actuel. Nous concluons donc que les approches classiques constituent une base de référence importante et solide.