HyperAIHyperAI

Command Palette

Search for a command to run...

L’échantillonnage compte ! Une étude empirique des stratégies d’échantillonnage négatif pour l’apprentissage des modèles de correspondance dans les systèmes de dialogue basés sur la récupération

Chongyang Tao Wei Wu Rui Yan Dongyan Zhao Yansong Feng Jia Li

Résumé

Nous étudions la manière de sélectionner des exemples négatifs afin de construire automatiquement un ensemble d'apprentissage pour une apprentissage efficace des modèles dans les systèmes de dialogue basés sur la récupération. En suivant l'idée d'adapter dynamiquement les exemples négatifs aux modèles de correspondance pendant l'apprentissage, nous considérons quatre stratégies : l'échantillonnage minimum, l'échantillonnage maximum, l'échantillonnage semi-dur et l'échantillonnage à décroissance dur. Des études empiriques menées sur deux benchmarks avec trois modèles de correspondance montrent qu'en comparaison avec la stratégie d'échantillonnage aléatoire largement utilisée, bien que les deux premières stratégies entraînent une baisse des performances, les deux dernières permettent d'améliorer de manière cohérente les performances de tous les modèles sur les deux benchmarks.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp