TrOCR : Reconnaissance optique de caractères basée sur Transformer avec modèles pré-entraînés

La reconnaissance de texte constitue un problème de recherche depuis longtemps dans le domaine de la numérisation des documents. Les approches existantes reposent généralement sur un réseau de neurones convolutifs (CNN) pour l’analyse d’images et un réseau de neurones récurrents (RNN) pour la génération de caractères au niveau du caractère. En outre, un autre modèle linguistique est habituellement nécessaire en tant que traitement postérieur afin d’améliorer la précision globale. Dans cet article, nous proposons une approche de reconnaissance de texte en bout à bout basée sur des modèles pré-entraînés à base de Transformers pour les images et pour le texte, nommée TrOCR, qui exploite l’architecture Transformer à la fois pour l’analyse d’images et pour la génération de fragments de mots (wordpiece). Le modèle TrOCR est simple mais efficace, pouvant être pré-entraîné à grande échelle sur des données synthétiques et affiné avec des jeux de données étiquetés manuellement. Les expériences montrent que le modèle TrOCR surpasser les modèles actuels de l’état de l’art sur les tâches de reconnaissance de texte imprimé, manuscrit et de scène. Les modèles TrOCR ainsi que le code source sont disponibles publiquement à l’adresse \url{https://aka.ms/trocr}.