ContextFlow++: 混合変数コンテキスト符号化を用いたジェネラリスト-スペシャリスト フローベースの生成モデル

正規化フローを基にした生成モデルは、確率密度の正確な推定が重要なアプリケーションで広く使用されています。最近の研究では、これらのモデルの表現力を向上させるための多くの手法が提案されています。しかし、双射フロー研究においてコンテキスト条件付けはほとんど見落とされている領域です。従来のベクトル連結による条件付けは、限られた種類のフローのみに対応しています。さらに重要なのは、固定された事前学習済みの汎用モデル（ジェネラリスト）を使用して、コンテキスト条件付き（スペシャリスト）モデル群を訓練する実用的な設定をサポートできないことです。本稿では、これらの制約を克服するために加法的な条件付けと明示的なジェネラリスト-スペシャリスト知識分離を用いたContextFlow++アプローチを提案します。また、提案する混合変数アーキテクチャとコンテキストエンコーダーにより離散的なコンテキストもサポートします。特に、我々が提案する離散変数用のコンテキストエンコーダーは、コンテキスト条件付き連続変数をサンプリングする全射フロー（surjective flow）です。回転MNIST-R、破損CIFAR-10C、実世界ATM予測保守、SMAP非監督異常検出ベンチマークでの実験結果から、提案するContextFlow++はより高速かつ安定した学習を提供し、より高い性能指標を達成することが示されました。当方のコードは公開されており、以下のURLからアクセスできます: https://github.com/gudovskiy/contextflow.