خمسة: تصنيف صور قابل للتفسير باستخدام عدد قليل من الميزات

تستخدم الشبكات العصبية العميقة آلالاف الميزات التي تكون في الغالب غير قابلة للفهم لتحديد فئة واحدة، وهو قرار لا يستطيع أي إنسان تتبعه. نقترح طبقة قرار نهائية قابلة للتفسير، ونادرة وذات أبعاد منخفضة، ضمن شبكة عصبية عميقة، مع جوانب قابلة للقياس من حيث القابلية للتفسير، ونُظهر فعاليتها في تصنيف الصور الدقيق. نحن نجادل بأن الإنسان يمكنه فهم قرار نموذج تعلم الآلة فقط إذا كانت الميزات قابلة للتفسير، وإذا تم استخدام عدد قليل جدًا منها في كل قرار منفصل. ولتحقيق ذلك، يجب أن تكون الطبقة النهائية نادرة، وبما أن تفسير الميزات يكون ممكنًا فقط إذا كانت ذات أبعاد منخفضة، يجب أن تكون أيضًا منخفضة الأبعاد. نُسمّي النموذج الذي يحتوي على طبقة قرار نادرة ومنخفضة الأبعاد نموذجًا SLDD. نُظهر أن نموذج SLDD يكون أسهل في التفسير محليًا وعالميًا من طبقة قرار كثيفة وعالية الأبعاد، مع الحفاظ على دقة تنافسية. بالإضافة إلى ذلك، نقترح دالة خسارة تُحسّن تنوع الميزات ودقة النموذج. ويستخدم نموذجنا القابل للتفسير بشكل أكبر فقط 5 ميزات من أصل 50 ميزة لكل فئة، مع الحفاظ على دقة تتراوح بين 97% و100% مقارنة بنموذج المعيار الذي يستخدم 2048 ميزة، على أربع مجموعات بيانات معيارية شائعة.