2ヶ月前

対抗順位付けによる言語生成

Kevin Lin; Dianqi Li; Xiaodong He; Zhengyou Zhang; Ming-Ting Sun
対抗順位付けによる言語生成
要約

生成対抗ネットワーク(GANs)はデータの合成において大きな成功を収めています。しかし、既存のGANsでは識別子が二値分類器に制限されており、自然言語記述のような豊かな構造を持つ出力を合成するタスクにおける学習能力が制限されています。本論文では、高品質な言語記述を生成するための新しい生成対抗ネットワークであるRankGANを提案します。提案されたRankGANは、個々のデータサンプルに対して絶対的な二値述語を学習し割り当てるのではなく、参照グループを与えることで人間が書いた文章と機械が生成した文章の集合を分析し順位付けすることができます。データサンプルの集合全体を見て相対的なランキングスコアで評価することで、識別子はより良い評価を行うことができ、これによりより良いジェネレータの学習が促進されます。提案されたRankGANは方策勾配技術を通じて最適化されます。複数の公開データセットに対する実験結果は、提案手法の有効性を明確に示しています。

対抗順位付けによる言語生成 | 最新論文 | HyperAI超神経