NegBERT: نهج التعلم النقل للكشف عن النفي وحل نطاقه

النفي هو خاصية مهمة من خصائص اللغة، ويشكل مكونًا رئيسيًا في استخراج المعلومات من النص. هذا الجزء الفرعي مهم للغاية في المجال البيولوجي الطبي. على مر السنين، تم استكشاف العديد من الأساليب لمعالجة هذه المشكلة: أنظمة القواعد، تصنيفات التعلم الآلي، نماذج الحقول العشوائية المشروطة (Conditional Random Field Models)، شبكات النيورونات المت convoled (CNNs) وأخيراً شبكات LSTM ثنائية الاتجاه (BiLSTMs). في هذا البحث، ننظر إلى تطبيق التعلم النقل (Transfer Learning) على هذه المشكلة. أولاً، نراجع بشكل شامل الأدبيات السابقة التي تناولت اكتشاف النفي وحل نطاقه عبر 3 مجموعات بيانات اكتسبت شهرة على مر السنين: مجموعة بيانات BioScope Corpus، مجموعة بيانات Sherlock، ومجموعة بيانات SFU Review Corpus. ثم نستكشف الخيارات المتعلقة باستخدام BERT، وهو نموذج شائع للتعلم النقل، لهذه المهمة، ونقدم نتائج حالية رائدة لحل نطاق النفي عبر جميع المجموعات الثلاثة. يحقق نموذجنا الذي يُشار إليه باسم NegBERT درجة F1 على مستوى العلامات (token level) في حل نطاق النفي بمقدار 92.36% في مجموعة بيانات Sherlock، 95.68% في فرع مجموعة البيانات BioScope Abstracts، 91.24% في فرع مجموعة البيانات BioScope Full Papers، و90.95% في مجموعة بيانات SFU Review Corpus، مما يتفوق بشكل كبير على الأنظمة الرائدة سابقًا. كما نقوم بتحليل قابلية تعميم النموذج على مجموعات البيانات التي لم يتم تدريبه عليها.