NVIDIA NeMo Automodel、Diffusersでモデル大規模ファインチューン
NVIDIAとHugging Faceは、オープンソース拡散モデルの拡張学習を効率化する新統合ソリューションを正式に公開した。本連携により、Hugging Face Hub上の拡散モデルを、チェックポイントの変換やコード修正を行うことなく、直接的に大規模分散環境で学習可能となる。 同システムはNVIDIA NeMoフレームワークの構成要素であり、PyTorchのDTensorネイティブ設計を採用している。メモリ効率的なシャディング、潜在空間トレーニング、マルチ解像度バケッティングデータローディングを実装し、単一GPUから数百基規模のクラスターへシームレスにスケールする。FLUX.1および2、Wan 2.1および2.2、HunyuanVideo、Qwen-Imageなどの主要テキスト・画像生成および動画生成モデルに対応し、完全微調整とLoRAなどのパラメータ効率的学習を統一された設定ファイルでサポートする。 実証環境では、8基のNVIDIA H100 GPUノードにおいてFLUX.1-devを対象にタロットスタイルの領域特化学習を実施した。フル微調整では1ステップあたり約0.9秒、LoRA学習では約0.89秒を達成し、GPUメモリ使用量も最適化された。動画モデルへの適用実験でも、LoRAによるスタイル転移が成功しており、既存の推論パイプラインや量子化ツールとの互換性を損なわない実用性が確認された。 現時点では設定管理にYAMLが標準採用されているが、今後はTypedなPythonic APIの提供を計画しており、既存の学習コードや実験ワークフローへの組み込みをさらに強化する。本統合は、拡散モデルの高度なカスタマイズ障壁を大幅に下げ、研究コミュニティと産業ユーザーが安定かつスケーラブルな学習基盤を構築できる基盤となる。詳細な実装手順とベンチマークデータは、Diffusers公式トレーニングガイドおよびNeMo Automodel公開リポジトリで入手可能である。
