フランスのAIスタートアップZMLは、多様なAIチップ上で大規模言語モデルの推論を高速化する無料サーバー「ZML/LLMD」の提供を開始した。同社創業者のSteeve Morin氏は、モデル学習以上に推論最適化の重要性が高まる中、既存のベンダーロックインを打破し、Nvidia、AMD、Google TPU、Apple Metal、Intel Arcなど異種ハードウェアを最大限に連携させることを目指す。同製品はオープンソースではないが、無料公開によって利用データを計測し、成長を阻害しない形で将来の収益化を検証する戦略だ。 ZMLは20名の少人数チームで構成され、Morin氏は前職のZenly売却経験を活かし、2VCやKima Ventures、LocalGlobeなどから累計2000万ドルの資金調達を完了している。Docker創業者のSolomon Hykes氏やHugging Face創業者陣、Yann LeCun氏ら業界関係者の支持も得ている。このソフトウェアは欧州発のAIチップベンダーにとって技術基盤として機能し、BasetenやvLLM、SGLangらが競合する推論市場での差別化を図る。Nvidiaとの良好な関係も維持しつつ、チップ設計段階からの協業を進める方針だ。 推論最適化は業界全体で「推論ゴールドラッシュ」と呼ばれる激しい投資競争となっており、ZML/LLMDの公開は欧州AIインフラの自律強化と、コスト削減・エネルギー効率の向上を追求する企業向け実用的な選択肢を提供する。Parisを拠点とする同社は、技術革新と戦略的提携を通じ、分散型AI推論エコシステムの構築を加速させる。