2ヶ月前

機械読解における一般知識の明示的利用

Chao Wang; Hui Jiang
機械読解における一般知識の明示的利用
要約

機械読解(MRC)モデルと人間の間にあるギャップを埋めるため、特にデータへの渇望とノイズに対する堅牢性について、本論文ではMRCモデルのニューラルネットワークを人間の一般的な知識と統合する方法を探求します。一方で、WordNetを使用して各与えられた文章-質問ペアから単語間の意味的関連性を一般的な知識として抽出するデータ充実手法を提案します。他方で、上記抽出された一般的な知識を明示的に利用して注意メカニズムを支援するエンドツーエンドのMRCモデルであるKnowledge Aided Reader (KAR)を提案します。このデータ充実手法に基づき、KARは最先端のMRCモデルと同等の性能を示し、それらよりも著しくノイズに対して堅牢性が高くなっています。訓練例の部分集合(20%-80%)のみが利用可能な場合でも、KARは最先端のMRCモデルを大幅に上回り、なおかつ合理的にノイズに対して堅牢性を持っています。

機械読解における一般知識の明示的利用 | 最新論文 | HyperAI超神経