P-KDGAN: التعلم التمييزي التدرجي مع الشبكات التوليدية المنافسة للكشف عن الاختلافات من الفئة الواحدة

كشف الازدواجية من فئة واحدة يهدف إلى تحديد الحالات غير الطبيعية التي لا تتماشى مع الحالات الطبيعية المتوقعة. في هذه الورقة، تم استخدام شبكات التوليد التنافسية (GANs) المستندة إلى مسار المُشفِّر-المُفكِّك-المُشفِّر للكشف، وتم تحقيق أداءً من الطراز الرائد (state-of-the-art). ومع ذلك، فإن الشبكات العصبية العميقة تكون مفرطة في التخصيص بمعاملات (over-parameterized)، مما يجعلها غير قابلة للنشر على الأجهزة المحدودة الموارد. ولذلك، تم اقتراح طريقة تُسمى "الاستخلاص التدريجي للمعرفة باستخدام GANs" (PKDGAN) لتعلم شبكات كشف الازدواجية الصغيرة والسريعة. يُعدّ P-KDGAN محاولة جديدة لربط نوعين من شبكات GAN القياسية من خلال دالة استخلاص مصممة لنقل المعرفة من المعلم إلى الطالب. يعتمد التعلم التدريجي لاستخلاص المعرفة على منهجية مكونة من خطوتين، حيث يتم تحسين أداء الشبكة الطالب بشكل مستمر، مما يحقق أداءً أفضل من الطرق ذات الخطوة الواحدة. في المرحلة الأولى، تتعلم الشبكة الطالب المعرفة الأساسية بالكامل من المعلم من خلال توجيهها بواسطة شبكة GAN المعلّمة مسبقًا ذات الأوزان الثابتة. وفي المرحلة الثانية، تُطبَّق عملية التدريب الدقيق المشترك (joint fine-training) على كل من الشبكة المعلّمة المعرفية والشبكة الطالب، بهدف تحسين الأداء والثبات بشكل أكبر. أظهرت النتائج التجريبية على مجموعات بيانات CIFAR-10 وMNIST وFMNIST أن طريقة العرض تُحسّن أداء الشبكة الطالب بنسبة 2.44% و1.77% و1.73% على التوالي، عند تقليل الحساب بنسبة 24.45:1 و311.11:1 و700:1 على التوالي.