HyperAIHyperAI

Command Palette

Search for a command to run...

Formation de Modèles Complexes avec une Supervision Faible Multi-Tâches

Alexander Ratner; Braden Hancock; Jared Dunnmon; Frederic Sala; Shreyash Pandey; Christopher Ré

Résumé

Alors que les modèles d'apprentissage automatique continuent de gagner en complexité, la collecte de grands ensembles de formation étiquetés manuellement est devenue l'un des plus grands obstacles pratiques. À la place, des formes plus faibles de supervision qui fournissent des étiquettes bruyantes mais moins coûteuses sont souvent utilisées. Cependant, ces sources de supervision faible ont des précisions diverses et inconnues, peuvent produire des étiquettes corrélées, et peuvent étiqueter différentes tâches ou s'appliquer à différents niveaux de granularité. Nous proposons un cadre pour intégrer et modéliser ces sources de supervision faible en les considérant comme étiquetant différentes sous-tâches connexes d'un problème, que nous appelons le contexte de supervision faible multi-tâche. Nous montrons qu'en résolvant un problème style complétion matricielle, nous pouvons retrouver les précisions de ces sources multi-tâche en fonction de leur structure de dépendance, sans aucune donnée étiquetée, ce qui conduit à une supervision de meilleure qualité pour former un modèle final. Théoriquement, nous démontrons que l'erreur généralisée des modèles formés avec cette approche s'améliore avec le nombre de points de données non étiquetés, et nous caractérisons l'évolution par rapport aux structures de tâches et de dépendances. Sur trois problèmes de classification fine-grained (细粒度分类), nous montrons que notre approche entraîne des gains moyens de 20,2 points en précision par rapport à une approche supervisée traditionnelle, 6,8 points par rapport à une base-line du vote majoritaire, et 4,1 points par rapport à une méthode précédemment proposée de supervision faible qui modélise les tâches séparément.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Formation de Modèles Complexes avec une Supervision Faible Multi-Tâches | Articles | HyperAI