Une Approche à Faible Ressource pour la Correction Grammaticale des Textes Ukrainiens

Nous présentons notre système participant à la tâche partagée de correction des erreurs grammaticales en ukrainien. Nous avons mis en œuvre deux approches exploitant des grands modèles linguistiques pré-entraînés et des données synthétiques, déjà utilisées pour la correction d’erreurs grammaticales en anglais ainsi que pour les langues à faible ressource. La première approche repose sur un entraînement progressif (fine-tuning) d’un grand modèle multilingue (mT5) en deux étapes : d’abord sur des données synthétiques, puis sur des données d’or (gold). La seconde approche consiste à entraîner un modèle Transformer seq2seq plus petit, pré-entraîné sur des données synthétiques, puis finement ajusté sur des données d’or. Notre modèle basé sur mT5 a obtenu la première place dans la catégorie « GEC uniquement », et une très bonne deuxième place dans la catégorie « GEC + Fluidité ». Nos deux innovations principales sont : (1) l’entraînement progressif en deux étapes, d’abord sur des données synthétiques, puis sur des données d’or ; et (2) une méthode de corruption de haute qualité fondée sur une traduction automatique aller-retour (roundtrip machine translation), complétant ainsi les approches existantes de bruitage (noisification).