HyperAIHyperAI
منذ 4 أشهر

FAT-DeepFFM: آلة التحليل العاملية المعرفة بالحقول مع الاهتمام العميق

Junlin Zhang; Tongwen Huang; Zhiqi Zhang
FAT-DeepFFM: آلة التحليل العاملية المعرفة بالحقول مع الاهتمام العميق
الملخص

تقدير معدل النقر (CTR) هو مهمة أساسية في الإعلان المخصص وأنظمة التوصية. وفي السنوات الأخيرة، شهدنا نجاحًا كبيرًا لنموذج التعلم العميق والآلية الانتباهية في مهام مختلفة في رؤية الحاسوب (CV) ومعالجة اللغات الطبيعية (NLP). دمج الآلية الانتباهية مع نموذج CTR العميق هو اتجاه واعد لأنه قد يجمع بين مزايا الجانبين. على الرغم من اقتراح بعض نماذج CTR مثل آلة العوامل الانتباهية (AFM) لنمذجة وزن الخصائص التفاعلية من الدرجة الثانية، فإننا نعتقد أن تقييم أهمية الخصائص قبل إجراء التفاعل الصريح للخصائص مهم أيضًا للمهام المتعلقة بتقدير CTR، حيث يمكن للنموذج تعلم كيفية تسليط الضوء بشكل اختياري على الخصائص المعلوماتية وإهمال تلك الأقل فائدة إذا كان المهمة يحتوي على العديد من الخصائص المدخلة.في هذا البحث، نقترح نموذجًا عصبيًا جديدًا لمعدل النقر اسمه آلة العوامل الحقل-انتباهي العميقة (FAT-DeepFFM)، وذلك بدمج آلة العوامل الحقل-المدركة العميقة (DeepFFM) مع آلية انتباه الحقول التي تقترحها شبكة التركيب-التحفيز (CENet)، وهي الإصدار المعزز من شبكة الضغط-التحفيز (SENet) لتسليط الضوء على أهمية الخصائص. أجرينا تجارب واسعة على قاعدتين بيانات حقيقيتين، وأظهرت نتائج التجارب أن FAT-DeepFFM حقق أفضل الأداء وحقق تحسينات مختلفة عن الأساليب الرائدة حاليًا. كما قمنا أيضًا بمقارنة نوعين من آليات الانتباه (الانتباه قبل التفاعل الصريح للخصائص مقابل الانتباه بعد التفاعل الصريح للخصائص) وأثبتنا أن الأول يتفوق بشكل كبير على الثاني.