Le sujet CantTalkAboutThis de Contrôle des Sujets est un ensemble de données publié par NVIDIA en 2024, axé sur le contrôle du flux conversationnel et l’alignement sécurisé des modèles linguistiques. Les résultats associés à la recherche sont disponibles dans « CantTalkAboutThis: Aligning Language Models to Stay on Topic in Dialogues », avec pour objectif d’améliorer la capacité des grands modèles de langage à maintenir une focalisation thématique lors de conversations orientées vers les tâches, tout en renforçant leur robustesse face aux éléments perturbateurs.

L’ensemble comprend 1 080 échantillons de dialogues synthétiques couvrant neuf domaines : santé, banque, voyages, éducation, finance, assurance, droit, immobilier et dépannage informatique. Chaque dialogue contient des tours destinés à tester la résistance du modèle aux dérives thématiques.

Un fine-tuning réalisé sur cet ensemble permet d’améliorer significativement les performances du modèle dans le respect des instructions et dans les tâches liées à la sécurité, lui permettant ainsi d’identifier efficacement les sujets sensibles et de gérer les contenus restreints.

Composition de l’ensemble de données

L’ensemble comporte principalement les champs suivants :

• domain : domaine auquel appartient le dialogue
• scenario : scène ou tâche spécifique discutée
• system_instruction : stratégie de gestion imposée au modèle, contenant généralement un jeu complexe d’instructions autorisant ou interdisant certains sujets
• conversation : contenu complet du dialogue incluant le thème principal et les tours perturbateurs
• distractors : liste des tours perturbateurs comprenant les interventions du robot ainsi que celles correspondant aux réponses attendues de l’utilisateur face aux interventions du robot
• conversation_with_distractors : dialogue intégral incluant tous les tours perturbateurs

L’ensemble est divisé entre trainset et testset. Le premier a été généré via synthèse utilisant le modèle GPT-4 Turbo tandis que le second constitue un jeu d’évaluation annoté manuellement comportant des distracteurs plus complexes et réalistes afin d’évaluer précisément les capacités du modèle.

Citation

@inproceedings{sreedhar2024canttalkaboutthis,
  title={CantTalkAboutThis: Aligning Language Models to Stay on Topic in Dialogues},
  author={Sreedhar, Makesh and Rebedea, Traian and Ghosh, Shaona and Zeng, Jiaqi and Parisien, Christopher},
  booktitle={Findings of the Association for Computational Linguistics: EMNLP 2024},
  pages={12232--12252},
  year={2024},
  organization={Association for Computational Linguistics}
}