Un modèle neuronal unifié pour l'évaluation de la lisibilité basée sur la projection de caractéristiques et une fonction de perte équilibrée par longueur

Pour l’évaluation de la lisibilité, les méthodes traditionnelles s’appuient principalement sur des classificateurs d’apprentissage automatique utilisant des centaines de caractéristiques linguistiques. Bien que les modèles d’apprentissage profond soient devenus la méthode dominante pour la quasi-totalité des tâches de traitement du langage naturel (NLP), leur application à l’évaluation de la lisibilité reste peu explorée. Dans cet article, nous proposons un modèle basé sur BERT, intégrant une projection de caractéristiques et une fonction de perte équilibrée par longueur (BERT-FP-LBL), destiné à l’évaluation de la lisibilité. Plus précisément, nous introduisons une nouvelle méthode semi-supervisée guidée par des connaissances sur le niveau de difficulté, permettant d’extraire des caractéristiques de sujet afin de compléter les caractéristiques linguistiques traditionnelles. À partir des caractéristiques linguistiques, nous utilisons un filtrage par projection pour extraire des caractéristiques orthogonales, servant à enrichir les représentations de BERT. En outre, nous concevons une nouvelle fonction de perte équilibrée par longueur afin de traiter la distribution très hétérogène des longueurs des données. Notre modèle atteint des performances de pointe sur deux jeux de données de référence en anglais et sur un jeu de données de manuels scolaires chinois, et obtient une précision quasi parfaite de 99 % sur un des jeux de données anglais. En outre, les résultats de notre modèle sont comparables à ceux des experts humains dans un test de cohérence.