التعميم الحدودي من خلال الت régularization بالانتروبيا

يهدف التعميم النطقي إلى تعلّم نموذج تنبؤي من خلال عدة مجالات مصدرية، بحيث يمكنه التعميم على مجالات مستهدفة غير مرئية. أحد المشكلات الأساسية في التعميم النطقي هو تعلّم ميزات مميزة ومستقلة عن المجال. ولتحقيق ذلك، تُدخل بعض الطرق مُميّز مجال من خلال التعلّم العدواني لمحاكاة توزيعات الميزات في المجالات المصدرية المتعددة. ومع ذلك، فإن التدريب العدواني يضمن فقط أن تكون الميزات المُتعلّمة ذات توزيعات حدودية ثابتة، في حين أن استقرار التوزيعات الشرطية أكثر أهمية للتنبؤ في المجالات الجديدة. لضمان الاستقرار الشرطي للميزات المُتعلّنة، نقترح مصطلحًا لتنظيم الإنتروبيا يقيس الاعتماد بين الميزات المُتعلّنة وعلامات الفئات. وبجمع هذا المصطلح مع الخسارة التقليدية المرتبطة بالمهام، مثل خسارة التباديل (cross-entropy) في التصنيف، وخسارة التمييز العدواني للمجالات، يضمن الهدف الكلي تعلّم ميزات مستقلة شرطيًا عبر جميع المجالات المصدرية، وبالتالي يمكن تعلّم تصنيفات ذات قدرات تعميم أفضل.نُظهر فعالية طريقتنا من خلال المقارنة مع أحدث الطرق على مجموعات بيانات مُحاكاة وواقعية. يمكن الوصول إلى الكود عبر: https://github.com/sshan-zhao/DGviaER.