AIインフラ分野に新たなトレンドが浮上している。人気のオープンソースツールが、数億ドル規模のベンチャーキャピタル支援を受けたスタートアップに進化するケースが相次いでいる。その最新例が、SGLangを基盤とするRadixArkだ。同社はAccelが主導する資金調達で約4億ドル（約600億円）の評価額を達成したと、複数の関係者に明らかにされた。TechCrunchが調査したところ、資金規模の正確な数字は確認できなかったが、発表からわずか数か月で高評価を受けたことは確実だ。 SGLangは2023年、Databricks共同創業者であるIon Stoica教授のカリフォルニア大学バークレー校の研究室で誕生。AIモデルの推論処理を高速かつ効率的に行うためのツールとして、xAIやCursorといった企業で採用されている。RadixArkは、このプロジェクトの中心メンバーが2024年8月に正式に独立し、商業化を開始した。同社の共同創業者兼CEOに就任したのは、前xAIエンジニアのYing Sheng氏。彼女はDatabricksの研究科学者としても活躍した人物で、LinkedIn上で同社設立を発表している。 SGLangとRadixArkの共通の目標は、推論処理の最適化。AIサービスのサーバー費用の大部分を占める推論工程を効率化することで、同じハードウェアでも高速化・コスト削減が可能になる。この分野は、モデルトレーニングと並ぶAIインフラの鍵となる。 RadixArkはSGLangをオープンソースとして継続開発しながら、強化学習向けのフレームワーク「Miles」の開発も進めている。また、ホスティングサービスへの課金を開始しており、収益モデルの構築を進めている。 同様の動きは他にも見られる。vLLMもUCバークレーのStoica教授の研究室から生まれ、現在は10億ドル規模の資金調達を検討中。Andreessen Horowitzが主導とされるが、詳細は未確認。vLLMも既に大手企業が推論ワークロードに採用している。 こうした動きは、AIの推論層が今後も重要なインフラとなる証左だ。Basetenは3億ドルを調達し50億ドルの評価額、Fireworks AIも2億5000万ドルで40億ドルの評価を受けた。AIインフラの「推論」市場は、急速に成熟し、資金の集中が進んでいる。