9日前

生成モデルを活用したパスレトリーバルによるオープンドメイン質問応答

Gautier Izacard, Edouard Grave
生成モデルを活用したパスレトリーバルによるオープンドメイン質問応答
要約

オープンドメイン質問応答のための生成モデルは、外部知識に依存せずに競争力のある性能を発揮することが実証されている。有用なアプローチではあるが、数十億のパラメータを有するモデルを用いる必要があり、学習およびクエリ処理に高いコストがかかる。本論文では、証拠を含む可能性のあるテキストパッセージを検索することで、こうしたモデルがどれほど恩恵を受けるかを調査する。自然質問(Natural Questions)およびTriviaQAというオープンベンチマークにおいて、最先端の結果を達成した。興味深いことに、検索されたパッセージ数を増やすことで、この手法の性能が顕著に向上することが観察された。これは、生成モデルが複数のパッセージから得られる証拠を効果的に統合・結合できる能力を持っていることを示している。

生成モデルを活用したパスレトリーバルによるオープンドメイン質問応答 | 最新論文 | HyperAI超神経