HyperAIHyperAI

Command Palette

Search for a command to run...

Objectifs auxiliaires pour les modèles de détection d'erreurs neuronaux

Marek Rei; Helen Yannakoudakis

Résumé

Nous examinons l'utilité de différents objectifs auxiliaires et stratégies d'entraînement au sein d'une approche de labellisation séquentielle neuronale pour la détection d'erreurs dans les écrits des apprenants. Les coûts auxiliaires fournissent au modèle des informations linguistiques supplémentaires, lui permettant d'apprendre des caractéristiques compositionnelles polyvalentes qui peuvent ensuite être exploitées pour d'autres objectifs. Nos expériences montrent qu'une approche d'apprentissage conjoint utilisant des étiquettes parallèles sur des données du domaine cible améliore les performances par rapport au meilleur système de détection d'erreurs précédent. Bien que le modèle résultant ait le même nombre de paramètres, les objectifs supplémentaires lui permettent une optimisation plus efficace et une meilleure performance.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp