HyperAIHyperAI
il y a 4 mois

Petits Changements, Grandes Différences : Amélioration de la Sélection des Réponses Multitour dans les Systèmes de Dialogue par Apprentissage Contrastif à Grains Fins

Yuntao Li; Can Xu; Huang Hu; Lei Sha; Yan Zhang; Daxin Jiang
Petits Changements, Grandes Différences : Amélioration de la Sélection des Réponses Multitour dans les Systèmes de Dialogue par Apprentissage Contrastif à Grains Fins
Résumé

La sélection de réponses basée sur la recherche vise à trouver une réponse appropriée parmi un ensemble de candidats, étant donné un contexte multirouge. Les méthodes fondées sur les modèles linguistiques pré-entraînés (PLMs) ont permis d'obtenir des améliorations significatives dans cette tâche. La représentation séquentielle joue un rôle crucial dans l'apprentissage du degré de correspondance entre le contexte du dialogue et la réponse. Cependant, nous constatons que différentes paires contexte-réponse partageant le même contexte présentent toujours une plus grande similarité dans les représentations séquentielles calculées par les PLMs, ce qui rend difficile la distinction entre les réponses positives et négatives. Motivés par cette observation, nous proposons une nouvelle méthode d'apprentissage contrastif à grains fins (\textbf{F}ine-\textbf{G}rained \textbf{C}ontrastive, FGC) pour la tâche de sélection de réponses basée sur les PLMs. Cette stratégie d'apprentissage FGC aide les PLMs à générer des représentations de correspondance plus distinctes pour chaque dialogue à grains fins, et permet ainsi de faire de meilleures prédictions pour choisir les réponses positives. Des études empiriques menées sur deux ensembles de données de référence montrent que la méthode d'apprentissage FGC proposée peut généralement et significativement améliorer les performances des modèles existants basés sur les PLMs pour la tâche de correspondance.Note: "multirouge" is used here as a direct translation of "multi-turn," but it might be more appropriate to use "multi-tour" or "à plusieurs tours" depending on the specific context and terminology used in the field of natural language processing in French.

Petits Changements, Grandes Différences : Amélioration de la Sélection des Réponses Multitour dans les Systèmes de Dialogue par Apprentissage Contrastif à Grains Fins | Articles de recherche | HyperAI