17日前

マルチエージェントデュアルラーニング

{Tie-Yan Liu, ChengXiang Zhai, Fei Tian, Yiren Wang, Tianyu He, Tao Qin, Yingce Xia}
マルチエージェントデュアルラーニング
要約

双対学習(dual learning)は、機械学習、コンピュータビジョン、自然言語処理の分野で注目を集めている。双対学習の核心的なアイデアは、元のタスク(ドメインXからドメインYへの変換)と双対タスク(ドメインYからXへの変換)の間に存在する双対性を活用し、両方のタスクの性能を向上させることにある。従来の双対学習フレームワークは、この双対性を活用するため、2つのエージェント(1つのプライマルモデルと1つのデュアルモデル)からなるシステムを構成している。本論文では、このフレームワークを拡張し、複数のプライマルモデルとデュアルモデルを導入したマルチエージェント型双対学習フレームワークを提案する。ニューラル機械翻訳および画像変換タスクにおける実験により、新フレームワークの有効性が示された。特に、IWSLT 2014のドイツ語→英語翻訳タスクにおいて、35.44のBLEUスコアで新たな記録を樹立した。また、WMT 2014の英語→ドイツ語翻訳では、強力なTransformerベースラインに対して2.6以上のBLEUスコア向上を達成し、31.03のBLEUスコアを記録した。さらに、最新のWMT 2018英語→ドイツ語翻訳タスクにおいても、49.61のBLEUスコアを達成し、新たな記録を樹立した。