HyperAIHyperAI

Command Palette

Search for a command to run...

شبكات التجميع الانتباهية

Cicero dos Santos; Ming Tan; Bing Xiang; Bowen Zhou

الملخص

في هذا العمل، نقترح آلية التجميع الانتباهي (Attentive Pooling - AP)، وهي آلية انتباه ثنائية الاتجاه لتدريب النماذج التمييزية. في سياق تصنيف الزوجي أو ترتيب الزوجي باستخدام الشبكات العصبية، تمكن AP طبقة التجميع من الوعي بالزوج الحالي للإدخالات، بطريقة يمكن أن يؤثر فيها المعلومات من العنصرين المدخلين مباشرة على حساب تمثيلات كل منهما. برفقة هذه التمثيلات للإدخالات المزدوجة، تتعلم AP قياسًا مشابهًا بشكل مشترك على الأقسام المنعكسة (مثل ثلاثيات الحروف) للزوج، ومن ثم تستخرج متجه الانتباه المقابل لكل إدخال لتوجيه التجميع. آليتنا للانتباه الثنائي هي إطار عام مستقل عن تعلم التمثيل الأساسي، وقد تم تطبيقها على شبكات العصب المتكررة (Recurrent Neural Networks - RNNs) وشبكات العصب المتلافهة (Convolutional Neural Networks - CNNs) في دراساتنا. النتائج التجريبية من ثلاث مهام مقاييس مختلفة جدًا في مجال الإجابة على الأسئلة/اختيار الإجابات تظهر أن النماذج المقترحة لدينا تتخطى مجموعة متنوعة من النقاط الأساسية القوية وتحقق أداءً رائدًا في جميع المقاييس.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp