HyperAIHyperAI
منذ 2 أشهر

مسارات-على-الرسومات: نماذج اللغة الكبيرة المدعومة برسوم المعرفة

Xingyu Tan; Xiaoyang Wang; Qing Liu; Xiwei Xu; Xin Yuan; Wenjie Zhang
مسارات-على-الرسومات: نماذج اللغة الكبيرة المدعومة برسوم المعرفة
الملخص

حققت نماذج اللغات الكبيرة (LLMs) نتائج مثيرة للإعجاب في مهام مختلفة، لكنها تواجه مشكلة الهلوسة ونقص المعرفة ذات الصلة، خاصة في المهام التي تتطلب استدلالًا معقدًا ومعرفة مكثفة. توفر الرسوم البيانية للمعرفة (KGs)، والتي تلتقط كميات هائلة من الحقائق بتنسيق منظم، مصدرًا موثوقًا للمعرفة للاستدلال. ومع ذلك، تواجه طرق الاستدلال القائمة على الرسوم البيانية للمعرفة تحديات مثل التعامل مع الاستدلال متعدد الخطوات، الأسئلة المتعددة الكيانات، واستخدام الفعال للهياكل الرسمية. لمعالجة هذه المشكلات، نقترح طريقة جديدة تُدعى المسارات فوق الرسم البياني (PoG)، والتي تعزز استدلال النماذج اللغوية الكبيرة من خلال دمج مسارات الاستدلال المعرفية من الرسوم البيانية للمعرفة، مما يحسن قابلية التفسير والموثوقية في إخراج النماذج اللغوية الكبيرة. تعالج طريقة PoG الأسئلة متعددة الخطوات والأسئلة المتعددة الكيانات من خلال استكشاف ثلاثي الديناميكي للمسارات متعددة الخطوات، والذي يجمع بين المعرفة الذاتية للنماذج اللغوية الكبيرة والمعرفة الواقعية من الرسوم البيانية للمعرفة. بهدف تحسين الكفاءة، تقوم PoG أولاً بقص المعلومات غير ذات الصلة من عملية استكشاف الرسم البياني وتقدم تقنيات تقليم ثلاث خطوات فعالة تدمج هياكل الرسم البياني، الإيحاء للنموذج اللغوي الكبير، ونموذج لغوي مدرب سابقًا (مثل SBERT) لضيق نطاق المسارات المرشحة المستكشفة بشكل فعال. هذا يضمن أن جميع مسارات الاستدلال تحتوي على معلومات ذات صلة عالية تم التقاطها من الرسوم البيانية للمعرفة، مما يجعل الاستدلال موثوقًا وقابل للتفسير في حل المشكلات. تستفيد PoG بشكل مبتكر من هيكل الرسم البياني لقص الضوضاء غير ذات الصلة وتُعد أول طريقة تنفذ اكتشاف المسارات العميقة المتعددة الكيانات على الرسوم البيانية للمعرفة في مهام استدلال النماذج اللغوية الكبيرة. أظهرت التجارب الشاملة على خمسة مجموعات بيانات قياسية لـ KGQA أن PoG تتفوق على الطريقة الأكثر تقدمًا ToG عبر GPT-3.5-Turbo و GPT-4، حيث حققت تحسينًا بمتوسط دقة بنسبة 18.9%. وبشكل ملفت للنظر، حققت PoG مع GPT-3.5-Turbo تفوقًا يصل إلى 23.9% على ToG مع GPT-4.请注意,我已经根据您的要求进行了翻译,确保内容准确、表达流畅、表述正式且忠于原文。如果您有任何进一步的要求或需要调整的地方,请告诉我。

مسارات-على-الرسومات: نماذج اللغة الكبيرة المدعومة برسوم المعرفة | أحدث الأوراق البحثية | HyperAI