15日前

ベクトル量化的変分自己符号化器を用いた証拠意識型推論テキスト生成

Daya Guo, Duyu Tang, Nan Duan, Jian Yin, Daxin Jiang, Ming Zhou
ベクトル量化的変分自己符号化器を用いた証拠意識型推論テキスト生成
要約

ある出来事について、異なる視点から推論的な文章を生成するには、その出来事が発生するさまざまな文脈を考慮した推論が不可欠である。従来の手法は、明示的に提示されていない文脈を無視しがちであり、結果として文脈に依存しない意味表現を生成するため、推論文の生成を十分にサポートできていない。これを解決するため、我々は大規模なテキストコーパスから出来事に関する証拠を自動的に抽出し、その証拠をもとに推論的な文章の生成をガイドするアプローチを提案する。本手法はエンコーダ・デコーダ構造を採用しており、ベクトル量子化変分自己符号化器(Vector Quantised-Variational Autoencoder)を搭載している。ここでエンコーダは離散変数の分布からの表現を出力する。このような離散表現により、関連する証拠を自動的に選択可能となり、証拠を意識した生成を促進するだけでなく、生成の背後にある論理的根拠を自然に明らかにする手段としても機能する。実験の結果、本手法はEvent2MindおよびATOMICの両データセットにおいて、最先端の性能を達成した。さらに重要なことに、離散表現を用いることで、モデルが異なる推論文の生成に応じて証拠を選択的に利用していることが明らかになった。

ベクトル量化的変分自己符号化器を用いた証拠意識型推論テキスト生成 | 最新論文 | HyperAI超神経