NVIDIAの「AIファクトリー」神話が現実に直面、推論市場の70%利益率が揺らぐ

Nvidiaが「AIファクトリー」というメッセージでAI市場の支配的地位を築いてきましたが、6月24日のVB Transform 2025パネルディスカッションでは、この戦略が揺らぐ兆しが見えました。パネル参加者は、AIインファレンスが製品の質や供給能力のばらつきから70%の粗利益率を維持していることは、AIが単純な「工場」モデルには収まらないことを示しました。 GroqのCEO、Jonathan Rossは、「AIファクトリー」はAIを怖くないように見せるためのマーケティング手法だと指摘。CerebrasのCTO、Sean Lieも同意し、「サービスプロバイダーが僅かな利益のために争っている一方、Nvidiaは70ポイントの粗利益率で居心地よい」と述べました。これによって、大手AI利用企業が週に一度の容量確保交渉を余儀なくされている現状が浮かび上がりました。 Patel氏によると、AnthropicやCursor、OpenAIなどの企業は急速に成長していますが、それでも企業は必要なトークンを十分に得られないと報告されています。これは、AIのインファレンスが品質のばらつきや供給の制約を持つためで、DeepSeekのような企業でもパフォーマンスとコストのトレードオフが発生します。 パネル参加者は、品質のばらつきが最も重要な問題だと強調しました。QuantizationやPruningなどの最適化手法はコストダウンにつながりますが、その分パフォーマンスが落ちるという-tradeoffを引き起こします。Zuckerberg氏がGroqを唯一「完全品質でローンチした」と評価したのは、他のプロバイダーが性能を犠牲にしてコスト削減を行ってるということへの批判でもありました。 さらに、Lie氏はCerebrasのウェハースケール技術が現行の最高レベルのGPUよりも10倍、時には50倍の高速パフォーマンスを提供していることを披露。高速インファレンスが必要なリアルタイムアプリケーションと夜間にバッチ処理を行うシステムでは、異なるインフラストラクチャが必要になるという新たな課題も指摘されました。 供給制約だけでなく、データセンターや電力供給がAIデPLOYMENTの最大のボトルネックであるということも明らかにされました。Patel氏は、「U.S.ではデータセンターのスペースが見当たらない。電力も大きな問題だ」と語り、企業が世界中を飛び回って必要な電力とデータセンタースペースを見つける状況を描き出しました。 このパネルの議論を踏まえ、企業のCIO、CISO、AIリーダーが直面している戦略上の課題とは何でしょうか？ 成功したAIアプリケーションのトークン消費量が月30%増加する場合、年間の容量計画はすぐに陳腐化します。静的な調達サイクルから動的な容量管理への転換が必要です。 高速パフォーマンスは永久的なプレミアム価格を持つものであり、重要な用途ではそれに見合う予算を積む必要があります。 基本的なアーキテクチャを最適化することが、インフラストラクチャ競争で勝利の鍵となります。 電力インフラは戦略的資産であり、将来を見据えて早期に確保すべきです。 結局、AIの「工場」モデルは実際の市場の複雑さと対応できません。企業のAI戦略は、特定のワークロードに適切なインフラストラクチャをマッチングすることに重点を置かなければならず、そのような投資が成功への近道となります。Nvidiaの支配は揺らぎつつありますが、新規参入企業が示す革新的なアーキテクチャと高品質のインファレンスサービスが、次の世代のAI市場をリードする可能性があります。