要約
最近、ニューラルネットワークモデルを用いてサンプル集合から分布を推定する研究に多くの関心が寄せられています。本稿では、オートエンコーダー型ニューラルネットワークの単純な改良手法を提案し、強力な生成モデルを実現します。当手法は、オートエンコーダーのパラメータを自己回帰制約に従ってマスキングします：各入力は、特定の順序でそれ以前の入力のみから再構成されます。このように制約された場合、オートエンコーダーの出力を条件付き確率として解釈することができます。これらの条件付き確率の積が完全結合確率となります。また、単一のネットワークで複数の異なる順序での結合確率分解を行うことも可能です。我々の単純なフレームワークは深層アーキテクチャを含む複数のアーキテクチャに適用できます。ベクトル化された実装（例：GPU上での実装）は単純かつ高速です。実験結果は、本手法が最先端の扱いやすい分布推定器と競争可能であることを示しています。テスト時には、他の自己回帰推定器と比較して本手法は著しく高速であり、スケーリングも良好です。