HyperAIHyperAI

Command Palette

Search for a command to run...

Laya、33ms多言語意思決定エンジン公開

非自己回帰型のシステム1意思決定エンジンLayaが、Apache 2.0ライセンスの下で公開された。これは複雑な生成タスクではなく構造化スキーマに基づく瞬時の確率予測と分類に特化したモデルファミリーである。開発チームは従来の自動生成型大規模言語モデルを単純なルーティングや分類タスクに適用する非効率さを指摘し、三十〜三十五ミリ秒台の推論速度を実現する独自アーキテクチャを打ち出した。 本モデルの背景には近年のAI業界における決定支援モデルの注目がある。先行する商業ベースの同種モデルの出現を受けて、開発陣はオープンな実装と技術的透明性を優先し、強化学習に基づく確率キャリブレーション技術を結晶させた。Layaは単一順方向パスで動作し選択評価真偽判定の三つの意思決定プリミティブを採用。テキスト生成を行わないためハルシネーションやスキーマ違反を物理的に排除し数学的に検証可能な信頼スコアを出力する。 アーキテクチャ面では双方向エンコーダーを採用し単一GPUで三十二点八ミリ秒の推論を達成した。これは競合他社の商用モデルと比較して約七点八倍の高速化となる。特に注目すべきは二十二の文字セットとラテン語ストップワードを分析するサブミリ秒級のルーティング機能である。これにより英語専門モデルと百言語以上に対応するマルチリンガルモデルを自動切替し冷起動ペナルティを解消した。ベンチマークでは分類精度と期待キャリブレーションエラーにおいて商用モデルを凌駕し四十五の言語でランダムベースラインの三倍以上のパフォーマンスを記録した。 実用性については選択肢が二十以上の場合の性能低下やファインチューニングの必要性など課題も明示している。エージェント監視顧客サポートの優先度分類などエントプライズ用途への適用が想定されておりコードはHugging Faceで公開された。 本リリースはLLMの過剰適用を是正し高頻度分類タスクにおいてサブ三十五ミリ秒の決定性のある推論基盤を提供するものとなる。オープンソース化により開発コミュニティは低コストかつ透明性の高い意思決定層の構築を可能にしAIパイプラインの効率化に新基準を打ち立てた。

関連リンク