شبكات التجميع الانتباهية

في هذا العمل، نقترح آلية التجميع الانتباهي (Attentive Pooling - AP)، وهي آلية انتباه ثنائية الاتجاه لتدريب النماذج التمييزية. في سياق تصنيف الزوجي أو ترتيب الزوجي باستخدام الشبكات العصبية، تمكن AP طبقة التجميع من الوعي بالزوج الحالي للإدخالات، بطريقة يمكن أن يؤثر فيها المعلومات من العنصرين المدخلين مباشرة على حساب تمثيلات كل منهما. برفقة هذه التمثيلات للإدخالات المزدوجة، تتعلم AP قياسًا مشابهًا بشكل مشترك على الأقسام المنعكسة (مثل ثلاثيات الحروف) للزوج، ومن ثم تستخرج متجه الانتباه المقابل لكل إدخال لتوجيه التجميع. آليتنا للانتباه الثنائي هي إطار عام مستقل عن تعلم التمثيل الأساسي، وقد تم تطبيقها على شبكات العصب المتكررة (Recurrent Neural Networks - RNNs) وشبكات العصب المتلافهة (Convolutional Neural Networks - CNNs) في دراساتنا. النتائج التجريبية من ثلاث مهام مقاييس مختلفة جدًا في مجال الإجابة على الأسئلة/اختيار الإجابات تظهر أن النماذج المقترحة لدينا تتخطى مجموعة متنوعة من النقاط الأساسية القوية وتحقق أداءً رائدًا في جميع المقاييس.