紅帽、グーグル、NVIDIAらが「llm-d」オープンソースプロジェクトを開始 オープンソースソリューションの世界トップ企業である紅帽は、最近、「llm-d」という新たなオープンソースプロジェクトを開始したと発表しました。「llm-d」は、生成型AIの大規模推理に対する重要な課題を解決することを目指しています。このプロジェクトには、CoreWeave、Google Cloud、IBM Research、NVIDIAなどの業界大手が創設メンバーとして参加しています。 推理技術の strategic importance Gartnerの最新データによると、2028年までに80%以上のデータセンターのアクセラレータが、学習ではなく推理のために専用に配置される見込みです。これは、推理技術の戦略的重要性を示しています。しかし、モデルの複雑さとスケールが増加するにつれて、リソースの要求も高まり、集中型の推理デプロイメントの限界が明らかになっています。費用の高騰と遅延の長さがAI開発の主要なボトルネックとなっています。 llm-d による革新 紅帽とパートナー企業は「llm-d」を通じて、これらの課題に直面し、既存の企業ITインフラストラクチャに高度な推理能力を統合して成功しました。この統一プラットフォームにより、ITチームは重要なビジネスワークロードのサービス要件を満たしながら、革新的な技術を展開し、効率を最大化できるようになります。結果として、高性能AIアクセラレータの総所有コストを大幅に削減できます。 強力な産業アライアンス 「llm-d」プロジェクトには、生成型AIモデルのプロバイダー、AIアクセラレータの先駆者、主要なAIクラウドプラットフォームからなる強固なアライアンスがバックアップしています。AMD、 Cisco、 Hugging Face、 Intel、 Lambda、 Mistral AIなど、主要企業もパートナーとして参加しており、業界全体での大規模なLLMサービス構築への協力が伺えます。 インダストリー リーダーの声 Google Cloud AI & 計算インフラストラクチャ責任者 VP 兼 GM Mark Lohmeyer： 「企業がAIを大規模に導入し、ユーザーに価値を提供するために、効率的なAI推理が不可欠です。新しい推理時代において、Google Cloudは「llm-d」プロジェクトの創設メンバーとして、さらにオープンソースへの貢献を深めることに興奮しています。」 NVIDIA 工程AIフレームワーク 副社長 Ujval Kapasi： 「「llm-d」プロジェクトは、オープンソースAIエコシステムに対する重要な追加であり、NVIDIAの生成型AI革新に対する協力の意を示しています。スケーラブルで高性能な推理は、次の生成型AIとエージェント型AIの波の鍵となります。NVIDIA Dynamoなどの革新的なテクノロジーを活用して、紅帽と他パートナーとともに「llm-d」の発展に取り組んでいます。」 オープンソースによる産業変革 「llm-d」プロジェクトの開始は、AI推理分野が新たな段階に入ることを示しています。産業界の知恵を結集するオープンソースモデルを通じて、このプロジェクトは現在の大規模推理の課題であるコストと性能問題を解決するだけでなく、AIエコシステム全体の持続可能な発展の基礎を築くことが期待されています。今後、多くの企業や開発者の参加により、「llm-d」はAI推理技術の標準化と普及を促進し、新たに到来する推理時代に向けた準備を万全にすることが目指されています。