العمل الحديث في تصنيف أفعال الحوار قد عالج المهمة كمشكلة تسمية التسلسل باستخدام شبكات العصبونات العميقة الهرمية. نحن نبني على هذا العمل السابق من خلال الاستفادة من فعالية آلية انتباه ذاتي واعية بالسياق مترافقة مع شبكة عصبية متكررة هرمية. نقوم بإجراء تقييمات واسعة النطاق على مجموعات بيانات قياسية لتصنيف أفعال الحوار ونظهر تحسينًا كبيرًا على النتائج الرائدة في سجل Switchboard Dialogue Act (SwDA). كما ندرس تأثير طرق مختلفة لتعلم تمثيل مستوى الجملة ونظهر أن طريقة عملنا فعالة في التقاط تمثيلات النصوص الدلالية على مستوى الجملة مع الحفاظ على دقة عالية.