2ヶ月前
Graph2Seq: アテンションベースのニューラルネットワークを用いたグラフからシーケンスへの学習
Xu, Kun ; Wu, Lingfei ; Wang, Zhiguo ; Feng, Yansong ; Witbrock, Michael ; Sheinin, Vadim

要約
著名なSequence to Sequence学習(Seq2Seq)技術とその多くの変種は、多くのタスクで優れた性能を達成しています。しかし、多くの機械学習タスクの入力は自然にグラフとして表現されるため、既存のSeq2Seqモデルがグラフ形式から適切なシーケンスへの正確な変換を達成する上で大きな課題に直面しています。この課題に対処するために、我々は新しい一般的なエンドツーエンドのグラフ対シーケンスニューラルエンコーダー-デコーダーモデルを提案します。このモデルは、入力グラフをベクトルのシーケンスにマッピングし、注意メカニズムに基づくLSTM手法を使用して、これらのベクトルから目的のシーケンスをデコードします。我々の手法はまず、ノード埋め込みとグラフ埋め込みを生成するために、新しい集約戦略によりエッジ方向情報をノード埋め込みに組み込む改善されたグラフベースのニューラルネットワークを使用します。さらに、大規模なグラフに対応するため、ノード埋め込みとデコードシーケンスとのアライメントを行う注意メカニズムを導入しています。bAbI、最短経路問題(Shortest Path)、および自然言語生成タスクにおける実験結果は、我々のモデルが最先端の性能を達成し、既存のグラフニューラルネットワーク、Seq2Seq、およびTree2Seqモデルよりも大幅に優れていることを示しています。提案された双方向ノード埋め込み集約戦略を使用することで、モデルは最適性能へ迅速に収束することが可能です。