HyperAIHyperAI
منذ 17 أيام

إدخال الانتباه الذاتي إلى الشبكات العصبية الرسومية الموجهة نحو الانتباه المستهدف

Sai Mitheran, Abhinav Java, Surya Kant Sahu, Arshad Shaikh
إدخال الانتباه الذاتي إلى الشبكات العصبية الرسومية الموجهة نحو الانتباه المستهدف
الملخص

تُقترح أنظمة التوصية القائمة على الجلسات عناصر ذات صلة للمستخدمين من خلال نمذجة سلوك المستخدم وتفضيلاته باستخدام جلسات قصيرة غير مُعرفة. تعتمد الطرق الحالية على الشبكات العصبية الرسومية (GNNs) التي تُنقل وتوحّد المعلومات من العقد المجاورة، أي التبادل المحلي للرسائل. تُعاني هذه الهياكل القائمة على الرسومات من قيود تمثيلية، حيث إن تحتوي كل مجموعة فرعية واحدة على مخاطر التعلم الزائد للعلاقة التسلسلية بدلاً من أخذ الانتقالات المعقدة بين العناصر في الجلسات المختلفة بعين الاعتبار. نقترح تقنية جديدة تعتمد على دمج مُحَوِّل (Transformer) مع GNN موجه للانتباه. يُمكّن هذا التكامل من تعلّم تمثيلات أكثر ثراءً، مما يترجم إلى تحسينات أداء تجريبية مقارنةً بـ GNN الموجه للانتباه التقليدي. تُظهر النتائج التجريبية والتحليلات التفكيكية أن الطريقة المقترحة تنافس الطرق الحالية على مجموعات بيانات معيارية حقيقية، وتحسّن من فرضيات القائمة على الرسومات. يمكن الوصول إلى الكود من خلال الرابط: https://github.com/The-Learning-Machines/SBR

إدخال الانتباه الذاتي إلى الشبكات العصبية الرسومية الموجهة نحو الانتباه المستهدف | أحدث الأوراق البحثية | HyperAI