Command Palette
Search for a command to run...
Deep-Energy: 深層ニューラルネットワークの非教師あり学習
Deep-Energy: 深層ニューラルネットワークの非教師あり学習
Alona Golts Daniel Freedman Michael Elad
概要
深層学習の成功は、大規模なアノテーション付きデータセットの利用可能性に大きく依存しています。したがって、現在の学習パイプラインにおける主要なボトルネックは、データの人力アノテーションに要する時間です。入力-出力ペアを収集できないシナリオでは、しばしばシミュレーションが代わりに使用されますが、これにより合成データと実世界データの間でドメイン・シフトが生じることがあります。本研究では、タスク固有のエネルギー関数の利用可能性に依存する非監督的な代替手法を提案します。このエネルギー関数は、入力が与えられた場合に所望のラベルを最小化することによって得られるものと仮定されます。提案された手法「ディープ・エナジー」は、任意の選択された入力に対してこの最小化を近似するために深層ニューラルネットワーク(DNN)を訓練します。訓練が完了すると、単純かつ高速なフィードフォワード計算によって推論ラベルが提供されます。この手法により、手動でアノテーションされたラベルや合成データを使用せずに、実世界の入力のみを使用してDNNの非監督訓練を行うことが可能になります。「ディープ・エナジー」は本論文で3つの異なるタスク——シード付きセグメンテーション、画像マッティング、単一画像デヘイジング——について示されており、その汎用性と広範な適用可能性が明らかになっています。我々の実験結果は、ネットワークによって得られた解がエネルギー関数の直接最小化によって得られた解よりも品質面で優れていることが多いことを示しており、本スキームには追加的な正則化効果があることを示唆しています。