Liquid AI hat zwei neue Encoder-Modelle der LFM2.5-Reihe veröffentlicht: LFM2.5-Encoder-230M und LFM2.5-Encoder-350M. Die Modelle sind ab sofort als Open-Weight-Varianten auf Hugging Face verfügbar und zielen darauf ab, Long-Context-Inferenz auf CPUs effizient und kostengünstig zu gestalten. Im Gegensatz zu den kürzlich veröffentlichten LFM2.5-Retrievers dienen diese Encoder allgemeinen NLP-Aufgaben wie Klassifizierung, Intent-Routing, PII-Erkennung und Token-Level-Verarbeitung. Beide Modelle leiten sich von den Dekoder-Backbones der LFM2.5-Architektur ab und wurden durch bidirektionale Aufmerksamkeitsmasken und symmetrische Faltungen zu Encodern umgewandelt. Das Training erfolgt zweistufig: Zunächst wird eine allgemeine Sprachkompetenz mit bis zu 1.024 Tokens auf einem großen Webkorpus etabliert, gefolgt von einer Long-Context-Adaption auf bis zu 8.192 Token, die das Faktenwissen, rechtliche Nuancen und multilinguale Fähigkeiten stärkt. Bei 30 Prozent maskierten Token während des Trainings wird ein Masked-Language-Modeling-Objekt verfolgt, das eine breite Fine-Tuning-Flexibilität ermöglicht. In umfassenden Benchmarks über 17 Aufgaben von GLUE, SuperGLUE und multilingualen Klassifizierungsaufgaben schneidet LFM2.5-Encoder-350M besser ab als dreizehn Vergleichsmodelle, darunter ein Modell mit der zehnfachen Parameterzahl, und belegt Rang vier. Der kleinere LFM2.5-Encoder-230M übertrifft ModernBERT-base in Genauigkeit und Effizienz. Der entscheidende Vorteil zeigt sich bei der Inferenzgeschwindigkeit auf CPUs: Bei einer Kontextlänge von 8.192 Token benötigt der 230M-Encoder rund 28 Sekunden pro Forward-Pass, was etwa 3,7-mal schneller ist als die Laufzeit von ModernBERT-base. Auch auf GPUs dominiert die Architektur ab etwa 2.000 Token die Leistungskurve, wodurch auch lange Dokumente, Verträge oder Support-Threads in Echtzeit verarbeitet werden können. Die Integration erfolgt über die Standard-Bibliothek Transformers und unterstützt Flash Attention 2 für maximale Effizienz. Entwickler können die Encoder direkt für Masked-Token-Prediction nutzen oder eigene Kopfmodelle für Klassifizierung, Regression und Retrieval anbinden. Durch den geringen Ressourcenverbrauch eignen sich die Modelle ideal für hochfrequente Produktionsaufgaben, die dauerhaft auf bestehender CPU-Infrastruktur laufen müssen. Die vollständigen Trainingsframeworks, Rohdaten und ein detailliertes Fine-Tuning-Tutorial sind öffentlich zugänglich.