QA-GNN: الاستدلال باستخدام نماذج اللغة ورسوم المعرفة للإجابة على الأسئلة

تُقدِّم مشكلة الإجابة على الأسئلة باستخدام المعرفة من نماذج اللغة المدربة مسبقًا (LMs) والرسوم البيانية للمعرفة (KGs) تحديين رئيسيين: بالنظر إلى سياق الاستفسار والإجابة (السؤال وخيارات الإجابة)، يجب على الطرق (i) تحديد المعرفة ذات الصلة من الرسوم البيانية للمعرفة الكبيرة، و(ii) إجراء التفكير المشترك على سياق الاستفسار والإجابة والرسم البياني للمعرفة. في هذا البحث، نقترح نموذجًا جديدًا، QA-GNN، الذي يعالج التحديات أعلاه من خلال ابتكارين أساسيين: (i) تقييم الصلة، حيث نستخدم نماذج اللغة لتقدير أهمية عقد الرسم البياني للمعرفة بالنسبة للسياق المعطى للاستفسار والإجابة، و(ii) التفكير المشترك، حيث نربط بين سياق الاستفسار والإجابة والرسم البياني للمعرفة لنكون رسمًا بيانيًا مشتركًا، ونقوم بتحديث تمثيلاتهما بشكل متبادل عبر الشبكات العصبية الرسومية. قمنا بتقييم نموذجنا على مقاييس الأداء في مجالات المنطق الشائع (CommonsenseQA، OpenBookQA) والبيولوجيا الطبية (MedQA-USMLE). يتفوق QA-GNN على النماذج الحالية من نماذج اللغة ونماذج اللغة + الرسم البياني للمعرفة، ويظهر قدرته على إجراء التفكير القابل للتفسير والمُنظَّم، مثل التعامل الصحيح مع النفي في الأسئلة.