Wentao Zhang Yang Young Lu Yuntian Deng

Résumé

L'entraînement traditionnel des réseaux de neurones suit généralement des recettes d'optimisation fixes et prédéfinies, manquant ainsi de souplesse pour réagir dynamiquement aux instabilités ou aux problèmes émergents durant l'entraînement. Dans cet article, nous introduisons Interactive Training, un cadre open source qui permet une intervention en temps réel et pilotée par retour d'information durant l'entraînement des réseaux de neurones, que ce soit par des experts humains ou par des agents d'intelligence artificielle automatisés. Au cœur de Interactive Training se trouve un serveur de contrôle qui sert d'intermédiaire pour la communication entre les utilisateurs ou les agents et le processus d'entraînement en cours, permettant aux utilisateurs d'ajuster dynamiquement les hyperparamètres de l'optimiseur, les données d'entraînement et les points de contrôle du modèle. À travers trois études de cas, nous démontrons que Interactive Training améliore significativement la stabilité de l'entraînement, réduit la sensibilité aux hyperparamètres initiaux et renforce l'adaptabilité aux évolutions des besoins des utilisateurs, ouvrant la voie vers un futur paradigme d'entraînement où des agents d'intelligence artificielle surveillent de manière autonome les journaux d'entraînement, détectent proactivement les instabilités et optimisent dynamiquement les processus d'entraînement.