2ヶ月前

再帰関係ネットワーク

Rasmus Berg Palm; Ulrich Paquet; Ole Winther
再帰関係ネットワーク
要約

本論文は、オブジェクト間の関係について複雑な質問に答えることや、解の小さな要素が互いに制約し合うパズルを解くなど、一連の相互依存するステップが必要なタスクを学習することに関心を寄せています。私たちは再帰的関係ネットワーク(Recurrent Relational Network)を導入します。これはオブジェクトのグラフ表現に対して操作を行う汎用モジュールです。Santoroら [2017] の関係ネットワークの一般化として、このネットワークは任意のニューラルネットワークモデルに多段階の関係推論能力を付加することができます。再帰的関係ネットワークを使用して、bAbIテキスト質問応答データセットで最先端の結果を達成しました。20/20タスクを一貫して解決しています。ただし、bAbIは関係推論の観点から特に挑戦的なものではないため、私たちは新たな診断用データセットであるPretty-CLEVRを導入しました。Pretty-CLEVRでは、質問を変えることで回答を得るために必要な関係推論ステップ数を制御できます。Pretty-CLEVRを使用することで、多層パーセプトロン、関係ネットワークおよび再帰的関係ネットワークの限界を探りました。最後に、再帰的関係ネットワークが監督学習データからスドクーを解く方法を学習できることを示します。これは64段階以上の関係推論が必要となる困難なタスクです。類似手法の中でも最良の結果を得ており、最も難しいスドクー問題の96.6%を解くことに成功しました。

再帰関係ネットワーク | 論文 | HyperAI超神経