HyperAIHyperAI

Command Palette

Search for a command to run...

تعلم الاستدلال اللغوي الطبيعي باستخدام نموذج LSTM الثنائي الاتجاه والانتباه الداخلي

Yang Liu Chengjie Sun Lei Lin Xiaolong Wang

الملخص

في هذا البحث، اقترحنا نموذجًا يستند إلى ترميز الجمل لتحديد الاستدلال النصي. في منهجيتنا، يتم تقسيم عملية ترميز الجملة إلى مرحلتين. أولاً، تم استخدام التجميع المتوسط على مستوى الكلمات للـ LSTM ثنائية الاتجاه (biLSTM) لإنشاء تمثيل جملة أولي. ثانيًا، تم استخدام آلية الانتباه لاستبدال التجميع المتوسط على نفس الجملة للحصول على تمثيلات أفضل. بدلاً من استخدام الجملة المستهدفة لانتباه الكلمات في الجملة المصدر، استخدمنا التمثيل الأولي للجملة لانتباه الكلمات التي تظهر فيها نفسها، وهو ما يُطلق عليه "الانتباه الداخلي" في بحثنا. أثبتت التجارب التي أجريت على مكتبة الاستدلال اللغوي الطبيعي ستانفورد (SNLI) فعالية آلية "الانتباه الداخلي". ومع وجود عدد أقل من المعلمات، حقق نموذجنا تفوقًا كبيرًا على أفضل النماذج القائمة المستندة إلى ترميز الجمل.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp