17日前

ブレンドドRAG:意味検索とハイブリッドクエリベースリトリーバーを活用したRAG(リトリーバー補強生成)の精度向上

Kunal Sawarkar, Abhilasha Mangal, Shivam Raj Solanki
ブレンドドRAG:意味検索とハイブリッドクエリベースリトリーバーを活用したRAG(リトリーバー補強生成)の精度向上
要約

検索拡張生成(Retrieval-Augmented Generation, RAG)は、大規模言語モデル(Large Language Model, LLM)にプライベートな文書知識ベースを統合し、生成型質問応答(Generative Q&A)システムを構築する代表的なアプローチである。しかし、文書コーパスの規模が拡大するにつれて、RAGの精度はますます難しくなる。その要因として、リトリーバー(Retriever)が、コーパス内から最も関連性の高い文書を抽出し、LLMにコンテキストを提供する役割を果たすため、全体のRAG精度に大きな影響を与えることが挙げられる。本論文では、密なベクトルインデックス(Dense Vector indexes)やスパースエンコーダインデックス(Sparse Encoder indexes)といった意味的検索技術を、ハイブリッドクエリ戦略と組み合わせることで、より効果的な「ブレンドドRAG(Blended RAG)」手法を提案する。本研究では、NQやTREC-COVIDなどの情報検索(IR)データセットにおいて、より優れたリトリーブ結果を達成し、新たなベンチマークを設定した。さらに、この「ブレンドドリトリーバー」をRAGシステムに拡張することで、SQUADなどの生成型Q&Aデータセットにおいて、従来のファインチューニング性能を上回る顕著な成果を示した。

ブレンドドRAG:意味検索とハイブリッドクエリベースリトリーバーを活用したRAG(リトリーバー補強生成)の精度向上 | 最新論文 | HyperAI超神経