تصميم النموذج التبعي للنموذج اللغوي المُدرّب مسبقًا للمهمة استخراج العلاقة

تُؤدي الطرق المُشرَّفة لاستخراج العلاقات المستندة إلى الشبكات العصبية العميقة دورًا مهمًا في مجال استخراج المعلومات الحديث. ومع ذلك، لا تزال أداؤها حاليًا دون المستوى الجيد بسبب وجود علاقات معقدة. من ناحية أخرى، حققت النماذج المُدرَّبة مسبقًا للغة (PLMs) نجاحًا كبيرًا في مهام متعددة في معالجة اللغة الطبيعية من خلال التخصيص (fine-tuning) عند دمجها مع نماذج المهام اللاحقة. ومع ذلك، لا تشمل المهام القياسية الأصلية لـ PLMs حاليًا مهمة استخراج العلاقات. نحن نعتقد أنه يمكن استخدام PLMs أيضًا لحل مشكلة استخراج العلاقات، لكن من الضروري إنشاء نموذج مهام لاحقة مُصمم خصيصًا أو حتى دالة خسارة مُخصصة للتعامل مع العلاقات المعقدة. في هذه الورقة، تم تصميم هيكل شبكة جديد يحتوي على دالة خسارة خاصة لتكون وظيفته كنموذج لاحق للنماذج المُدرَّبة مسبقًا في مهام استخراج العلاقات المُشرَّفة. أظهرت التجارب أن طريقةنا تفوق بوضوح النماذج الأساسية المثلى الحالية عبر عدة مجموعات بيانات عامة لاستخراج العلاقات.