11日前
フォースがあなたのコピーメカニズムと共にあります:自然言語生成のための強化された教師付きコピーメソッド
Sanghyuk Choi, Jeong-in Hwang, Hyungjong Noh, Yeonsoo Lee

要約
近年、コピー機構を備えたニューラル系列から系列へのモデルは、さまざまなテキスト生成タスクにおいて顕著な進展を遂げている。これらのモデルは、未知語彙(out-of-vocabulary)問題に対処し、希少語の生成を可能にした。しかし、先行するコピーモデルが指摘しているように、コピーすべき語を正しく識別することは困難であり、誤った生成や抽象性の欠如といった課題に直面している。本論文では、モデルがどの語をコピーすべきか、またどの語を生成すべきかを判断するのを支援する、新たな教師あり型コピーネットワークアプローチを提案する。具体的には、コピーのガイドとして源文とターゲット語彙を活用するように目的関数を再定義する。データからテキスト生成および要約生成(抽象的要約)タスクにおける実験結果から、本手法がコピーの品質を向上させるとともに、生成テキストの抽象性を高めることを確認した。