ModelExpress、モデル重み転送を高速化
NVIDIAは、大規模AIモデルの重み配布とアーティファクト管理を最適化するフレームワーク「ModelExpress」を発表した。チェックポイントがテラバイト級に肥大化する中、クラスター内での重み転送はスケーリングや強化学習Rolloutの主要ボトルネックとなっていた。MXは、互換性のある重みが展開済みのノードを検知し、NIXLライブラリ経由でP2P RDMAによるGPU直接転送を実行する。これによりオブジェクトストレージやホストメモリを介する冗長コピーを排除し、初回起動時はModel StreamerやGDSを活用したストレージ直結転送を行う。 転送対象はウェイトだけでなく、JITカーネルキャッシュやCUDAグラフも含む。これにより共有ストレージへの依存を解消しつつ、互換レプリカ間でコンパイルコストを共有できる。強化学習のステップごとの重み更新にも対応し、トレーナーからワーカーへのReceiver-driven再配置フローを統合した。 8xB200 GPU構成のテスト環境では、DeepSeek-V4 Proのウェイト転送を10秒以内で完了し、全体起動時間を約8分短縮した。MXはvLLMやSGLang、Dynamoとネイティブに連携し、障害発生時は自動的にネイティブローダーへフォールバックする堅牢性を備えている。AIクラスターの起動レイテンシ削減と転送コストの大幅低減に寄与すると期待される。
