HyperAIHyperAI
il y a 2 mois

L'entraînement avec exploration améliore un analyseur Stack-LSTM avide.

Miguel Ballesteros; Yoav Goldberg; Chris Dyer; Noah A. Smith
L'entraînement avec exploration améliore un analyseur Stack-LSTM avide.
Résumé

Nous adaptons le parseur de dépendances Stack-LSTM glouton de Dyer et al. (2015) pour prendre en charge une procédure d'entraînement avec exploration utilisant des oracles dynamiques (Goldberg et Nivre, 2013) au lieu de la minimisation de l'entropie croisée. Cette forme d'entraînement, qui tient compte des prédictions du modèle pendant la phase d'entraînement plutôt que d'hypothéquer un historique d'actions exempt d'erreurs, améliore les précisions de parsing pour l'anglais et le chinois, obtenant des résultats très solides pour les deux langues. Nous discutons certaines modifications nécessaires pour que l'entraînement avec exploration fonctionne bien pour un réseau neuronal probabiliste.

L'entraînement avec exploration améliore un analyseur Stack-LSTM avide. | Articles de recherche récents | HyperAI