2ヶ月前

非監督深層構造意味モデルによる常識推論

Shuohang Wang; Sheng Zhang; Yelong Shen; Xiaodong Liu; Jingjing Liu; Jianfeng Gao; Jing Jiang
非監督深層構造意味モデルによる常識推論
要約

常識的な推論は自然言語理解の基礎をなしています。従来の手法は人間が設計した特徴量や知識ベースに大きく依存していますが、本研究では大量の生テキストから無監督学習を通じて常識的な知識を学習することを探求します。私たちは、Deep Structured Semantic Models (DSSM) フレームワークに基づく2つのニューラルネットワークモデルを提案し、Winograd Schema Challenge (WSC) と代名詞解釈 (PDP) という2つの古典的な常識的推論タスクに取り組むことを目指しています。評価の結果、提案されたモデルは文章内の文脈情報を効果的に捉え、代名詞と名詞との共参照情報を把握しており、既存の最先端アプローチよりも大幅な改善を達成していることが示されました。

非監督深層構造意味モデルによる常識推論 | 最新論文 | HyperAI超神経