セレスブレインズ推論モデルカタログ公開
セレスラスト(Cerebras)は、AI推論サービス「Cerebras Inference」のパブリックエンドポイントにおいて、オープンソース大規模言語モデルの提供を開始した。無料トライアルと従量課金制プランで利用可能であり、レート制限と価格設定が適用される。さらに高スループット、予約済みのキャパシティ、プロダクション環境向けのSLAを必要とする企業向けには、専用エンドポイントの契約も提供されている。 現在公開されているモデルは、OpenAI GPT OSS(1200億パラメータ、コンテキスト窓6万5千~13万1千トークン、推論速度約3000トークン/秒)と、Qwen 3.8 27B(270億パラメータ、コンテキスト窓6万4千~12万8千トークン、推論速度約1500トークン/秒)の二つである。同社は、パブリックエンドポイントで提供されるすべてのモデルは改変やプルーニングを行わない純正版であることを明記し、アーキテクチャの事前告知なしの変更は行わない方針を強化している。 モデルの圧縮技術に関する透明性についても説明がなされた。セレスラストは現在、生産環境向けのAPIでプルーニング済みモデルをホストしていない。同社が研究開発中のREAP(Router-weighted Expert Activation Pruning)といったプルーニング技術を用いたモデルは、Hugging Face上で学術・研究目的に限り公開されている。また、量子化戦略としては、ストレージ時のみ選択的なウェイト単位の量子化(16bit/8bit/4bit)を採用し、品質保持のために重要層はフル精度で保存、推論時にリアルタイムでデ量子化を行う。アティエンションやKVキャッシュなど演算の核心部分は常にフル精度を維持する設計となっている。 今後、新たな圧縮技術を実用化する場合でも、従来のエンドポイントとは分離し、専用エンドポイントとして別名で提供することで、利用者が品質とコストの両立を最適に選択できるよう設計されている。この推論プラットフォームの整備により、企業は高精度な大規模モデルを低レイテンシーで直接統合可能となり、生産環境への導入障壁が低下するとみられる。
