2ヶ月前

ブロックニューラルオートレグレッシブフロー

Nicola De Cao; Ivan Titov; Wilker Aziz
ブロックニューラルオートレグレッシブフロー
要約

ノーマライジングフロウ(NFS)は、ヤコビ行列式の決定因子を効率的に計算できる微分可能な双射を通じて、2つの密度関数を対応させる手法である。最近、手作業で設計された双射の代替として、Huangら(2018)は密度関数の普遍近似器であるニューラルオートレグレッシブフロウ(NAF)を提案した。彼らのフローは、別のニューラルネットワーク(NN)によってパラメータが予測されるニューラルネットワークであり、後者のサイズは前者のサイズに二次的に増加するため、効率的なパラメータ化技術が必要となる。本稿では、密度関数の普遍近似器としてよりコンパクトなモデルであるブロックニューラルオートレグレッシブフロウ(B-NAF)を提案する。B-NAFでは、単一のフィードフォワードネットワークを使用して双射を直接モデル化する。逆変換可能性は、各アフィン変換をフローがオートレグレッシブかつ(厳密に)単調になるようにブロック行列を慎重に設計することで確保される。我々はB-NAFをNAFおよび他の既存のフローと比較し、潜在変数モデルにおける密度推定と近似推論について評価した。提案したフローはデータセット間で競争力がありながら、パラメータ数が桁違いに少ないことを示している。