HyperAIHyperAI

Command Palette

Search for a command to run...

دمج معلومات الرسم البياني في تحليل AMR القائم على نماذج Transformer

Pavlo Vasylenko Pere-Lluis Huguet Cabot Abelardo Carlos Martínez Lorenzo Roberto Navigli

الملخص

ملخص المعنى التمثيلي (AMR) هو نموذج تحليل دلالي يهدف إلى تقديم تمثيل بياني مجرد للمعنى يمثل نصًا معينًا. النهج الحالي يستند إلى نماذج اللغة الذاتية التكرارية مثل BART أو T5، والتي يتم تعديلها باستخدام تقنية Teacher Forcing للحصول على إصدار خطي من الرسم البياني AMR من جملة. في هذا البحث، نقدم LeakDistill، وهو نموذج وطريقة تستكشف تعديلًا في هندسة Transformer، باستخدام المتكيفات الهيكلية لدمج المعلومات البيانية بشكل صريح في التمثيلات المُتعلَّمة وتحسين أداء تحليل AMR. تظهر تجاربنا كيف يمكن الحصول على أفضل مستوى حالي لتحليل AMR من خلال التقطير الذاتي للمعرفة، حتى دون استخدام بيانات إضافية، وذلك عن طريق استخدام تناسق الكلمات مع العقد لدمج المعلومات الهيكلية للرسم البياني في المُشفِّر أثناء التدريب. قمنا بنشر الكود في \url{http://www.github.com/sapienzanlp/LeakDistill}.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp