Dans cet article, nous présentons un taggeur GEC simple et efficace basé sur un encodeur Transformer. Notre système est pré-entraîné sur des données synthétiques, puis finement ajusté en deux étapes : d'abord sur des corpus contenant des erreurs, puis sur une combinaison de corpus parallèles erronés et corrects. Nous avons conçu des transformations au niveau des tokens spécifiques afin de mapper les tokens d'entrée aux corrections ciblées. Notre meilleur modèle unique / modèle en ensemble atteint une mesure $F_{0.5}$F0.5​ de 65,3 / 66,5 sur CoNLL-2014 (test) et une mesure $F_{0.5}$F0.5​ de 72,4 / 73,6 sur BEA-2019 (test). Sa vitesse d'inférence est jusqu'à dix fois plus rapide qu'un système GEC seq2seq basé sur Transformer. Le code source et les modèles entraînés sont disponibles publiquement.