11日前

生成対抗ネットワークの学習のための適応的重み付きディスクリミネータ

Vasily Zadorozhnyy, Qiang Cheng, Qiang Ye
生成対抗ネットワークの学習のための適応的重み付きディスクリミネータ
要約

生成対抗ネットワーク(GAN)は、従来の非教師あり機械学習における最も重要なニューラルネットワークモデルの一つとして広く認識されている。GANの識別器(discriminator)を訓練するための多様な識別器損失関数が提案されてきたが、それらはすべて共通の構造を持つ:実データと生成データそれぞれに依存する「実データ損失」と「偽データ損失」の和で構成されるものである。この2つの損失を等しく重み付けした和を用いる場合の課題として、一方の損失の改善が他方の損失を悪化させる可能性があることが挙げられ、本研究ではこれが学習の不安定性およびモード崩壊(mode collapse)を引き起こす原因であることを示した。本論文では、実データ部と偽データ部の損失に対して重み付き和を採用する新しい識別器損失関数の族を提案し、これを「適応的重み付き損失関数(adaptive weighted loss functions)」または「aw-loss関数」と呼ぶ。本手法では、実データ部と偽データ部の損失の勾配を用いて、GANの安定性を向上させる方向に識別器の学習を適応的に制御する重みを決定する。このアプローチは、実データ損失と偽データ損失の和として表現される損失を持つ任意の識別器モデルに応用可能である。実験により、非条件付き画像生成タスクにおいて本損失関数の有効性が検証され、CIFAR-10、STL-10、CIFAR-100の各データセットにおいて、Inception ScoreおよびFID指標でベースライン結果を顕著に上回る性能が得られた。

生成対抗ネットワークの学習のための適応的重み付きディスクリミネータ | 最新論文 | HyperAI超神経