FiBiNet++: تقليل حجم النموذج من خلال طبقة تفاعل الميزات من الرتبة المنخفضة للتنبؤ بنسبة النقر (CTR)

أصبح تقدير معدل النقر (CTR) إحدى المهام الأساسية في العديد من التطبيقات الواقعية، وقد تم اقتراح نماذج عميقة متعددة لهذا الغرض. أثبتت بعض الدراسات أن نموذج FiBiNet يُعدّ من أفضل النماذج أداءً، ويتفوق على جميع النماذج الأخرى على مجموعة بيانات Avazu. ومع ذلك، فإن الحجم الكبير للنموذج في FiBiNet يعيق تطبيقه الواسع النطاق. في هذا البحث، نقترح نموذجًا جديدًا يُسمى FiBiNet++ لإعادة تصميم هيكل نموذج FiBiNet، مما يقلل بشكل كبير من حجم النموذج مع تحسين أداؤه بشكل إضافي. ويشمل أحد التقنيات الرئيسية التي نقترحها "طبقة الرتبة المنخفضة" (Low Rank Layer)، التي تركز على تفاعل الميزات، وتعمل كمحرك رئيسي لتحقيق نسبة ضغط متفوقة في النماذج. أظهرت التجارب الواسعة على ثلاث مجموعات بيانات عامة أن FiBiNet++ يقلل من عدد المعاملات غير المدمجة (non-embedding parameters) في نموذج FiBiNet بنسبة تصل إلى 12 إلى 16 مرة على ثلاث مجموعات بيانات. من ناحية أخرى، يُحقق FiBiNet++ تحسينات كبيرة في الأداء مقارنة بأساليب CTR الرائدة في مجالها، بما في ذلك نموذج FiBiNet نفسه.