LFM2.5エンコーダーCPU高速長文推論対応
Liquid AIは本日、Hugging Face上に汎用エンコーダーモデル「LFM2.5-Encoder-230M」と「LFM2.5-Encoder-350M」を公開した。検索特化型アーキテクチャから発展させ、テキスト分類や意図ルーティング、PII検出、長期ドキュメント処理など多様な生産環境向けNLPタスクに対応する。両モデルはLFM2.5のデコーダ基盤を双方向注意力機構と対称型畳み込みに変換し、30%トークンマスクの言語学習タスクで二段階訓練を完了。基礎言語能力の習得後、8192トークンの長期コンテキストに最適化することで、法的・多言語データにおける精度と汎用性を大幅に向上させた。 GLUEやSuperGLUEなど17の標準ベンチマークでは14モデル中4位を記録。近年注目されるModernBERT-baseや3.5B級大規模モデルと比較しても、特に長文処理において明確な優位性を示した。CPU推論速度における性能差が特に顕著で、230Mモデルは8192トークン入力において同モデルを約3.7倍上回る処理速度を達成。開発者は既存のCPU環境やラップトップでも、契約書や通話記録などの長文を30秒以内に分析可能となり、推論コストとインフラ要件を大幅に抑制できる。GPU環境においても2000トークンを超える区間ではスループットが優勢となる設計を採用している。 本モデルはオープンウェイトとして公開され、transformersライブラリ経由で標準的な統合フローに対応する。独自分類ヘッドやトークンレベルの出力層を接続し、ファインチューニングすることで各ユースケースに最適化できる。Liquid AIは、高頻度で実行され低コストかつ高速性が必須となる理解タスクにおいて、生成型LLMに代わる現実的な代替解としてLFM2.5エンコーダーシリーズの採用を促進している。
