2ヶ月前
知識グラフからテキストを生成するための相対位置によるグラフ構造のモデル化
Martin Schmitt; Leonardo F. R. Ribeiro; Philipp Dufter; Iryna Gurevych; Hinrich Schütze

要約
我々は、グラフからテキストへの生成に向けた新しいトランスフォーマーに基づくエンコーダー-デコーダーアーキテクチャであるGraformerを提案します。当社の新規グラフ自己注意機構により、ノードの符号化は入力グラフ内のすべてのノード(直接的な近傍だけでなく)に依存し、全体的なパターンの検出が容易になります。2つのノード間の関係は、それらの間の最短パスの長さとして表現されます。Graformerは、異なる注意ヘッドに対してこれらのノード-ノード関係を異なる重み付けで学習するため、実質的に入力グラフの異なる接続ビューを学習します。我々はGraformerを2つの人気のあるグラフからテキストへの生成ベンチマークであるAGENDAとWebNLGで評価しました。その結果、他のアプローチよりも多くのパラメータを使用せずに強力な性能を達成しました。