17日前

答えより手がかり:生成強化型マルチチョイスQA

Zixian Huang, Ao Wu, Jiaying Zhou, Yu Gu, Yue Zhao, Gong Cheng
答えより手がかり:生成強化型マルチチョイスQA
要約

複数選択式質問応答(MCQA)における近年のトレンドは、テキストtoテキストフレームワークを活用するアプローチである。異なるタスクのデータを単一のテキストtoテキスト形式に統一することで、生成型エンコーダデコーダモデルを訓練可能となり、そのモデルは強力かつ汎用性が高い特徴を持つ。しかし、MCQAの分類特性に適合させるために生成ターゲットを変形する一方で、デコーダの能力およびそのデコード可能な知識が十分に活用されていないという副作用が生じる。本稿では、事前学習済みエンコーダデコーダモデルの生成能力と内在する知識を効果的に活用するため、GenMCと名付けた生成強化型MCQAモデルを提案する。本モデルは、質問からヒントを生成し、そのヒントを用いてMCQA用のリーダーを強化する。実験の結果、複数のMCQAデータセットにおいて、従来のテキストtoテキストモデルを上回る性能を達成した。