MISCA : un modèle conjoint pour la détection multiple d'intentions et le remplissage de fentes avec une attention co-intention-fente

L’étude de la détection de plusieurs intentions et du remplissage de slots connaît un intérêt croissant en raison de sa pertinence face à des situations réelles complexes. Les approches récentes avancées, basées sur des modèles conjoints et des graphes, peuvent toutefois souffrir de deux problèmes potentiels : (i) l’incertitude induite par la construction de graphes fondée sur des intentions et des slots préliminaires, ce qui peut entraîner une propagation erronée des informations de corrélation entre intentions et slots vers des nœuds de label inappropriés, et (ii) l’intégration directe de plusieurs étiquettes d’intention par token, par rapport au vote d’intention au niveau du token, pouvant entraîner des prédictions de slot incorrectes, nuisant ainsi à la performance globale. Pour résoudre ces deux problèmes, nous proposons un modèle conjoint nommé MISCA. MISCA introduit un mécanisme d’attention conjointe entre intention et slot, ainsi qu’une couche fondamentale de mécanisme d’attention sur les étiquettes. Ces mécanismes permettent à MISCA de capturer efficacement les corrélations entre intentions et étiquettes de slot, tout en éliminant la nécessité de construire un graphe. Ils favorisent également le transfert d’informations de corrélation dans les deux sens — des intentions vers les slots et inversement — à travers plusieurs niveaux de représentations spécifiques aux étiquettes, sans dépendre d’informations d’intention au niveau du token. Les résultats expérimentaux montrent que MISCA surpasser les modèles précédents, atteignant de nouvelles performances de pointe en précision globale sur deux jeux de données de référence, MixATIS et MixSNIPS. Cela met en évidence l’efficacité de nos mécanismes d’attention.