HyperAIHyperAI

Command Palette

Search for a command to run...

MADE: 分布推定のためのマスク付きオートエンコーダー

Mathieu Germain; Karol Gregor; Iain Murray; Hugo Larochelle

概要

最近、ニューラルネットワークモデルを用いてサンプル集合から分布を推定する研究に多くの関心が寄せられています。本稿では、オートエンコーダー型ニューラルネットワークの単純な改良手法を提案し、強力な生成モデルを実現します。当手法は、オートエンコーダーのパラメータを自己回帰制約に従ってマスキングします:各入力は、特定の順序でそれ以前の入力のみから再構成されます。このように制約された場合、オートエンコーダーの出力を条件付き確率として解釈することができます。これらの条件付き確率の積が完全結合確率となります。また、単一のネットワークで複数の異なる順序での結合確率分解を行うことも可能です。我々の単純なフレームワークは深層アーキテクチャを含む複数のアーキテクチャに適用できます。ベクトル化された実装(例:GPU上での実装)は単純かつ高速です。実験結果は、本手法が最先端の扱いやすい分布推定器と競争可能であることを示しています。テスト時には、他の自己回帰推定器と比較して本手法は著しく高速であり、スケーリングも良好です。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
MADE: 分布推定のためのマスク付きオートエンコーダー | 記事 | HyperAI超神経