
要約
私たちは、機械読解(MC)のための新しい高速合成エンコーダであるMRU(Multi-Range Reasoning Units)を提案します。提案するMRUエンコーダは、長距離と短距離の依存関係から利益を得るゲーティングベクトルを学習するためのパラメータ化された縮小・拡大層のシリーズを実行する多範囲ゲーティングによって特徴付けられます。私たちのアプローチの目的は以下の通りです:(1) 長距離と短距離のコンテキストに同時に気づく表現を学習すること、(2) 文書内のブロック間の関係をモデル化すること、(3) 高速かつ効率的なシーケンスエンコーディングを行うことです。我々は、単独で使用される場合も、また補完的な構成要素として使用される場合も、提案したエンコーダが有望な結果を示すことを示しています。RACE、SearchQA、NarrativeQAという3つの挑戦的なMCデータセットに対して広範な実験を行った結果、すべてにおいて非常に競争力のある性能を達成しました。RACEベンチマークでは、再帰層や畳み込み層を使用せずにDFN(Dynamic Fusion Networks)よりも1.5%-6%優れた性能を発揮しました。同様に、LSTM/GRU層を使用せずにSearchQAベンチマークではAMANDAと同等以上の性能を達成し、NarrativeQAベンチマークではBiDAFと同等以上の性能を達成しました。最後に、標準的なBiLSTMアーキテクチャにMRUエンコーダを取り入れることでさらに性能が向上し、最先端の結果を達成しています。