HyperAIHyperAI

Command Palette

Search for a command to run...

GANの訓練を確率比のクリッピングとサンプルの再重み付けにより改善する

Yue Wu Pan Zhou Andrew Gordon Wilson Eric P. Xing Zhiting Hu

概要

視覚関連の広範な問題において成功を収めている生成対抗ネットワーク(GAN)は、特にテキスト生成において、訓練の不安定性により性能が劣ることが多い。この問題を解決するために、我々は訓練の安定性に優れた新たな変分GAN訓練フレームワークを提案する。本手法は、変分的視点からGANと強化学習の間にある関連性に着想を得ている。この関連性により、(1) 生成器の訓練を正則化し、更新量が極端に大きくなるのを防ぐための確率比のクリッピング、および (2) 良質でない偽サンプルの影響を軽減することで識別器の訓練を改善するためのサンプル再重み付け機構が導かれる。さらに、本変分GANフレームワークは、多くのGANで見られる訓練上の問題——最適な識別器が生成器の訓練に有用な勾配を提供できない——を理論的に克服できることを保証できる。この訓練手法を多様な最先端GANアーキテクチャに組み込むことで、テキスト生成、テキストスタイル変換、画像生成など、さまざまなタスクにおいて顕著な性能向上が達成された。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています