要約
本研究では、差別的モデルの学習に向けた双方向注意機構であるアテンティブプーリング（Attentive Pooling: AP）を提案します。ニューラルネットワークを用いたペアワイズランキングや分類の文脈において、APはプーリング層が現在の入力ペアに意識的になることを可能とし、2つの入力項目の情報が互いの表現計算に直接影響を与えることができます。このようなペア入力の表現とともに、APは射影セグメント（例：三連語）に対する類似度測定も共同で学習し、その後各入力に対して対応する注意ベクトルを導出してプーリングをガイドします。我々の双方向注意機構は、基礎となる表現学習とは独立した一般的なフレームワークであり、本研究では畳み込みニューラルネットワーク（CNNs）および再帰型ニューラルネットワーク（RNNs）に適用されました。質問応答/回答選択に関する3つの非常に異なるベンチマークタスクからの実証結果は、提案したモデルが様々な強力な基準モデルを上回り、すべてのベンチマークで最先端の性能を達成していることを示しています。