NVIDIA は 2026 年 GTC で、大規模モデルを一律に使う従来のアプローチから脱却し、特定のタスクに特化したモデルを組み合わせたアーキテクチャ「Nemotron 3」を発表しました。この発表は、AI エージェントの運用コストと効率性を大幅に改善するための重要な転換点です。従来の多くの開発チームは、推論、ドキュメント検索、安全性の確認、回答生成などあらゆる工程に、パラメータ数 4000 億を超える巨大な単一モデルを流用してきました。しかし、エージェントが 1 つの質問に対して数十から数百回の推論呼び出しを行う場合、このアプローチは莫大なコストを招きます。例えば、1 回のクエリあたり 50 回推論する場合、巨大モデルを使用すると 1 回の対話に約 1.50 ドルかかると試算されますが、専門化したモデルのスタックを使用すれば、同様の処理に約 0.15 ドルで済み、日次 10 万件の処理で年間約 4900 万ドルの節約が可能になります。 Nemotron 3 は、この課題を解決するために設計された家族型モデル群です。推論を担当する「Nemotron 3 Super」は全パラメータ 1200 億個を持ちますが、実際の推論時には 120 億個のみが活性化されます。これにより、高度な推論能力を保ちつつ、処理速度とコスト効率を両立させています。安全性を担う「Content Safety」モデルは 40 億パラメータで、生成された出力を即座にチェックするゲート役として機能し、メインモデルの速度を損なうことなく安全基準を満たします。また、情報検索を担う「Embed VL」と「Rerank VL」はそれぞれ 17 億パラメータで、文脈の理解と情報の再評価を特化して行います。音声対応の「VoiceChat」も 120 億パラメータで、音声認識から合成までの一貫した処理を可能にします。 これら専門モデルは、意図を検知して適切なモデルにタスクを振り分けるルーターによって制御されます。このアプローチにより、開発チームは複雑なループ処理に悩むことなく、各工程に最適なモデルを選択して組み合わせることが可能になります。特に、推論モデルの思考時間を設定可能な機能は、タスクの難易度に応じてコストを最適化する柔軟性を提供します。NVIDIA は、AI エージェントの将来は規模の大きさではなく、適切な専門化と組み合わせにあることを示しました。このアーキテクチャの転換は、大規模言語モデルを実用的かつ経済的なサービスとして展開する際の新たな基準となるでしょう。