2ヶ月前

データからテキストへの生成とエンティティモデリング

Ratish Puduppully; Li Dong; Mirella Lapata
データからテキストへの生成とエンティティモデリング
要約

最近のデータからテキストへの生成手法は、大規模データセットの利用とエンドツーエンドで訓練されたニューラルネットワークアーキテクチャの適用により、大きな進展を遂げています。これらのモデルは、表現学習に依存してコンテンツを選択し、一貫性のある構造を作り出し、文法的に表現化するためのものであり、エンティティを単なる語彙トークンとして扱っています。本研究では、データからテキストへの生成に向けたエンティティ中心のニューラルアーキテクチャを提案します。当該モデルは、エンティティ固有の表現を作成し、これを動的に更新します。テキストは、入力データとエンティティメモリ表現に基づいて階層的注意機構を使用して各時間ステップで生成されます。私たちはRotoWireベンチマークと(5倍以上の規模を持つ)新規野球ドメインデータセットにおいて実験を行いました。結果は、提案したモデルが自動評価および人間評価において競合するベースラインを上回ることを示しています。

データからテキストへの生成とエンティティモデリング | 最新論文 | HyperAI超神経