شبكة العمق لتنبؤ معدل النقرات

تنبؤ معدل النقر هو مهمة أساسية في التطبيقات الصناعية مثل الإعلان عبر الإنترنت. مؤخرًا، تم اقتراح نماذج تعتمد على التعلم العميق، والتي تتبع نموذجًا مشابهًا لـ "الغرس والشبكة العصبية المتعددة الطبقات" (Embedding & MLP). في هذه الطرق، يتم أولاً تحويل الميزات النادرة ذات الحجم الكبير إلى متجهات غرس ذات بعد منخفض، ثم يتم تحويلها إلى متجهات ذات طول ثابت بطريقة جماعية، وأخيرًا يتم دمجها معًا وإدخالها إلى الشبكة العصبية المتعددة الطبقات (MLP) لتعلم العلاقات غير الخطية بين الميزات. بهذه الطريقة، يتم ضغط ميزات المستخدم إلى متجه تمثيل ذو طول ثابت، دون مراعاة الإعلانات المرشحة. استخدام متجه ذو طول ثابت سيكون عائقًا، مما يجعل من الصعب على نماذج "الغرس والشبكة العصبية المتعددة الطبقات" التقاط اهتمامات المستخدم المختلفة بشكل فعال من السلوكيات التاريخية الغنية.في هذا البحث، نقترح نموذجًا جديدًا: شبكة الاهتمام العميقة (Deep Interest Network - DIN)، والذي يواجه هذا التحدي من خلال تصميم وحدة تنشيط محلية تتعلم تمثيل اهتمامات المستخدم بطرق مرنة من السلوكيات التاريخية بالنسبة لإعلان معين. يتغير هذا المتجه التمثيلي حسب الإعلانات المختلفة، مما يعزز قدرة النموذج على التعبير بشكل كبير. بالإضافة إلى ذلك، قمنا بتطوير تقنيتين: التنظيم المنظم للدفعة الصغيرة (mini-batch aware regularization) والدالة التنشيط التكيفية للبيانات (data adaptive activation function)، اللتين يمكنهما المساعدة في تدريب شبكات عميقة صناعية تحتوي على مئات الملايين من المعلمات.أظهرت التجارب التي أجريت على مجموعة بيانات عامة واثنين ومجموعة بيانات إنتاج حقيقية من علي بابا تحتوي على أكثر من ملياري عينة فعالية الأساليب المقترحة، حيث حققت أداءً أفضل مقارنة بالأساليب الأكثر تقدمًا. تم نشر DIN بنجاح الآن في نظام الإعلان عبر الإنترنت في علي بابا، حيث يقوم بتقديم الخدمة للحركة الرئيسية للمستخدمين.