Yuan Liu Zhongyin Zhao Le Tian Haicheng Wang Xubing Ye et al

Résumé

Les données étiquetées de haute qualité sont essentielles pour former des modèles d’conversion de documents précis, en particulier dans des domaines aux formats complexes tels que les tableaux, les formules mathématiques ou le texte en plusieurs colonnes. Toutefois, l’annotation manuelle s’avère coûteuse et chronophage, tandis que l’étiquetage automatique à l’aide de modèles existants souffre souvent d’une précision insuffisante dans ces scénarios complexes. En conséquence, l’entraînement de modèles étudiants par distillation à partir de modèles enseignants limite souvent leur performance dans des applications réelles. Dans cet article, nous proposons un cadre entièrement automatisé, sans distillation, composé de deux étapes, permettant de construire des jeux de données et des modèles d’extraction de documents de haute qualité capables de traiter une grande diversité de formats et de mises en page. Dans la première étape, nous introduisons une méthode de génération de données synthétiques à grande échelle et diversifiées, permettant à un modèle d’extraire les éléments clés sous une forme unifiée, avec des performances initiales robustes. Dans la deuxième étape, nous proposons une approche d’auto-amélioration qui adapte davantage le modèle, initialement entraîné sur des données synthétiques, aux documents du monde réel. Plus précisément, nous utilisons d’abord le modèle ajusté pour étiqueter des documents réels, appliquons ensuite une série de stratégies de filtrage afin de vérifier la qualité des étiquetages, puis réentraînons le modèle sur l’ensemble de données validé. En répétant itérativement ce processus, nous améliorons progressivement à la fois les capacités de conversion du modèle et la qualité des données générées. Nous avons entraîné un modèle public POINTS-1.5 pour obtenir POINTS-Reader, qui dépasse de nombreux modèles publics et propriétaires existants de taille comparable ou supérieure. Notre modèle est disponible à l’adresse suivante : [https://...]