HyperAIHyperAI

Command Palette

Search for a command to run...

التعلم على التغاضي: الترابط النووي في المستندات الطويلة باستخدام الشبكات العصبية ذات الذاكرة المحدودة

Shubham Toshniwal Sam Wiseman Allyson Ettinger Karen Livescu Kevin Gimpel

الملخص

تبقى مهمة تحديد الهوية في المستندات الطويلة تحديًا كبيرًا بسبب الطلب العالي على الذاكرة والوقت التشغيلي الناتج عن النماذج الحالية. وقد أظهرت الدراسات الحديثة أن استخدام تمثيل عالمي فقط للكيانات في عملية التحديد التدريجي للهوية يحقق فوائد عملية، لكنها تتطلب الاحتفاظ بجميع الكيانات في الذاكرة، وهو ما قد يكون غير عملي بالنسبة للمستندات الطويلة. نحن نجادل بأن الاحتفاظ بجميع الكيانات في الذاكرة ليس ضروريًا، ونُقدّم شبكة عصبية مُعززة بالذاكرة تتبع عددًا محدودًا وصغيرًا من الكيانات في كل مرة، مما يضمن زمن تشغيل خطي بالنسبة لطول المستند. ونُظهر أن (أ) يظل النموذج منافسًا للنماذج ذات المتطلبات العالية من الذاكرة والحساب على مجموعتي بيانات OntoNotes وLitBank، و(ب) يتعلم النموذج استراتيجية فعالة لإدارة الذاكرة، تتفوق بسهولة على الاستراتيجية القائمة على القواعد.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp