HyperAIHyperAI

Command Palette

Search for a command to run...

استخراج العلاقات على مستوى المستند باستخدام خسارة التركيز التكيفية ونقل المعرفة

Qingyu Tan Ruidan He Lidong Bing Hwee Tou Ng

الملخص

استخلاص العلاقات على مستوى المستند (DocRE) يُعد مهمة أكثر تحديًا مقارنةً بنسخة مستوى الجملة. ويهدف إلى استخلاص العلاقات من جمل متعددة في وقت واحد. في هذه الورقة، نقترح إطارًا شبه مُعلَّم لاستخلاص العلاقات على مستوى المستند، يحتوي على ثلاث مكونات جديدة. أولاً، نستخدم وحدة انتباه محوري (axial attention module) لتعلم الترابط بين أزواج الكيانات، مما يُحسّن الأداء في العلاقات ذات الخطوتين. ثانيًا، نقترح خسارة مركّزة مُعدّلة (adaptive focal loss) للتعامل مع مشكلة عدم التوازن بين الفئات في DocRE. ثالثًا، نستخدم تقنية تدريب المعرفة (knowledge distillation) للتغلب على الفروق بين البيانات المُعلَّمة يدويًا والبيانات المُعلَّمة عن بعد (distantly supervised data). أجرينا تجارب على مجموعتي بيانات DocRE. وتفوّق نموذجنا باستمرار على النماذج القوية السابقة، وتفوّق أداءه على الحد الأقصى السابق (SOTA) بمقدار 1.36 نقطة في دقة F1 و1.46 نقطة في دقة Ign_F1 على لوحة تقييم DocRED. سيتم إتاحة الكود والبيانات المستخدمة عبر الرابط: https://github.com/tonytan48/KD-DocRE.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp