شبكة انتباه متقاطعة متصلة بكثافة لاستخراج العلاقات على مستوى المستند

استخلاص العلاقات على مستوى المستند (RE) يهدف إلى تحديد العلاقات بين كائنين في مستند معين. مقارنةً بالاستخلاص على مستوى الجملة، يتطلب استخلاص العلاقات على مستوى المستند تفكيرًا منطقيًا معقدًا. في الدراسات السابقة، تم إنجاز التفكير عادةً من خلال انتقال المعلومات على مستوى المُذكَّرات أو على مستوى الكائنات في رسم بياني للمستند، ولكن نادرًا ما تم النظر في التفكير على مستوى أزواج الكائنات. في هذه الورقة، نقترح نموذجًا جديدًا يُسمى شبكة الانتباه المتقاطعة المتصلة بكثافة (Dense-CCNet) لاستخلاص العلاقات على مستوى المستند، والتي تتيح إنجاز التفكير المنطقي على مستوى أزواج الكائنات. وبشكل خاص، تقوم شبكة Dense-CCNet بإجراء التفكير المنطقي على مستوى أزواج الكائنات من خلال انتباه متقاطع (CCA)، الذي يمكنه جمع المعلومات السياقية في الاتجاهات الأفقية والعمودية على مصفوفة أزواج الكائنات لتعزيز تمثيل كل زوج من الكائنات المقابل. بالإضافة إلى ذلك، نربط بشكل كثيف عدة طبقات من CCA لالتقاط الخصائص الخاصة بالتفكير المنطقي ذي الخطوة الواحدة والتفكير ذي الخطوات المتعددة في آنٍ واحد. وقد قمنا بتقييم نموذج Dense-CCNet على ثلاث مجموعات بيانات عامة لاستخلاص العلاقات على مستوى المستند: DocRED وCDR وGDA. وأظهرت النتائج التجريبية أن النموذج يحقق أداءً من الدرجة الأولى على هذه المجموعات الثلاث.