HyperAIHyperAI
منذ 17 أيام

RAG المُدمج: تحسين دقة RAG (الاسترجاع المُعزز بالإنشاء) من خلال البحث الدلالي ومحركات الاسترجاع القائمة على الاستعلامات الهجينة

Kunal Sawarkar, Abhilasha Mangal, Shivam Raj Solanki
RAG المُدمج: تحسين دقة RAG (الاسترجاع المُعزز بالإنشاء) من خلال البحث الدلالي ومحركات الاسترجاع القائمة على الاستعلامات الهجينة
الملخص

يُعدّ التوليد المدعوم باسترجاع (RAG) من الأساليب الشائعة لدمج قاعدة معرفة خاصة بالمستندات مع نماذج اللغة الكبيرة (LLM) بهدف بناء أنظمة استجابة للأسئلة (Q&A) قادرة على التوليد. ومع ذلك، تصبح دقة RAG أكثر تحديًا مع زيادة حجم المجموعة النصية (corpus)، حيث يلعب مُسترجع (Retriever) دورًا محوريًا في الدقة الإجمالية لـ RAG من خلال استخراج المستند الأكثر صلة من المجموعة لتقديم السياق إلى نموذج اللغة الكبير. في هذه الورقة، نقترح طريقة "RAG المُدمج" (Blended RAG) التي تُستخدَم فيها تقنيات البحث الدلالي، مثل فهارس المتجهات الكثيفة (Dense Vector indexes) وفهارس المشفرات النادرة (Sparse Encoder indexes)، مدمجة مع استراتيجيات استعلام هجينة. تُحقق دراستنا نتائج استرجاع أفضل، وتنشئ معايير جديدة لdatasets في مجال استرجاع المعلومات (IR)، مثل مجموعتي NQ وTREC-COVID. كما نوسع هذه "الاسترجاع المُدمج" (Blended Retriever) ليُطبَّق في نظام RAG، مما يُظهر نتائج متفوقة بشكل كبير على مجموعات بيانات استجابة الأسئلة التوليدية، مثل SQUAD، حتى تفوق أداء التخصيص الدقيق (fine-tuning).