Liquid AI vient de publier sur Hugging Face deux nouveaux modèles d'encodeurs : LFM2.5-Encoder-230M et LFM2.5-Encoder-350M. Ces architectures sont conçues pour traiter des contextes longs tout en restant rapides et économiques, en particulier sur les processeurs standards. Elles s'inscrivent dans la continuité de la famille LFM2.5 et visent à répondre aux besoins des applications industrielles de traitement du langage naturel qui fonctionnent en continu, comme la classification de textes, la détection de données sensibles, le routage d'intentions ou encore la recherche multilingue. Contrairement aux modèles de récupération publiés précédemment par l'entreprise, ces encodeurs ont été entraînés selon un objectif de masquage de tokens, ce qui leur confère une polyvalence accrue pour divers usages. Leur développement repose sur la conversion de backbones de décodeurs en structures bidirectionnelles, permettant à chaque token d'accéder aux informations contextuelles avant et après lui. L'entraînement s'est déroulé en deux phases : d'abord une acquisition de compétences linguistiques générales sur un corpus web, puis une adaptation aux contextes longs jusqu'à 8 192 tokens, renforçant ainsi la précision factuelle, juridique et multilingue. Les résultats sur des benchmarks standardisés placent le LFM2.5-Encoder-350M au quatrième rang parmi quatorze modèles évalués, devançant plusieurs architectures bien plus volumineuses. Le modèle 230M surpasse quant à lui ModernBERT-base et les variantes EuroBERT, tout en étant plus léger. Leur avantage principal se manifeste lors de l'inférence sur CPU : à une longueur de contexte maximale de 8 192 tokens, le LFM2.5-Encoder-230M traite les données en environ vingt-huit secondes, contre plus d'une minute et demie pour ModernBERT-base, soit une accélération d'un facteur trois. Cette efficacité permet de scanner ou classifier des documents longs directement sur des machines standard sans surcoût énergétique significatif. Sur GPU, les encodeurs conservent également un avantage marqué dès que la longueur d'entrée dépasse deux mille tokens. Ces modèles sont ouverts et téléchargeables gratuitement. Ils s'intègrent directement avec la bibliothèque Hugging Face transformers et supportent l'accélération Flash Attention 2 pour les GPU compatibles. Les développeurs peuvent les utiliser tels quels pour la prédiction de tokens masqués ou les adapter rapidement à des tâches spécifiques en ajoutant une couche de classification ou de régression. Liquid AI propose également des tutoriels détaillés pour le fine-tuning, notamment sur des documents juridiques longs. Avec ces nouveaux encodeurs, l'entreprise vise à démocratiser le traitement haute performance de textes étendus, offrant une alternative robuste et moins gourmande aux grands modèles génératifs pour des tâches de compréhension linguistique à haut volume.