HyperAIHyperAI

Command Palette

Search for a command to run...

SkipFlow: دمج ميزات التماسك العصبي للتصحيح الآلي النصي من البداية إلى النهاية

Yi Tay Minh C. Phan Luu Anh Tuan Siu Cheung Hui

الملخص

أثبت التعلم العميق إمكانات هائلة في مهام تقييم النصوص تلقائيًا (ATS). وفي هذا البحث، نصف بنية عصبية جديدة تعزز نماذج الشبكات العصبية التقليدية بخصائص إضافية للترابط العصبي. يقترح أسلوبنا الجديد آلية \textsc{SkipFlow} جديدة تقوم بنمذجة العلاقات بين لقطات من التمثيلات الخفية لشبكة الذاكرة طويلة المدى قصيرة الأجل (LSTM) أثناء القراءة. بعد ذلك، يتم استخدام العلاقات الدلالية بين العديد من اللقطات كخصائص إضافية للتنبؤ. ولهذا فائدتان رئيسيتان. أولاً، تكون المقالات عادةً سلاسل طويلة، ولذلك قد يكون قدرة الذاكرة لشبكة LSTM غير كافية. يمكن أن يخفف الوصول الضمني إلى العديد من اللقطات من هذه المشكلة بوصفه حماية ضد تلاشي التدرجات. تعمل معلمات آلية \textsc{SkipFlow} أيضًا كذاكرة إضافية. ثانيًا، فإن نمذجة العلاقات بين مواقع متعددة تسمح لنموذجنا بتعلم خصائص تمثل وتقترب من الترابط النصي. وفي نموذجنا، نطلق على هذه الخصائص اسم \textit{الترابط العصبي}. بشكل عام، نقدم بنية تعلم عميق موحدة تولد خصائص الترابط العصبي أثناء القراءة بطريقة شاملة من البداية إلى النهاية. يظهر أسلوبنا أداءً رائدًا على مجموعة بيانات ASAP المرجعية، حيث يتفوق على أسس الهندسة الميزانية وأيضًا على نماذج التعلم العميق الأخرى.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp