Q-SENN: الشبكات العصبية الذاتية التفسير المُكمّلة بالكمّية

تُعد التفسيرات في مجال الرؤية الحاسوبية مطلوبة غالبًا، لكن معظم الشبكات العصبية العميقة قادرة فقط على تقديم خرائط التأثير (saliency maps) التي تثير شكوكًا حول مصداقيتها. تُستخرج الشبكات العصبية ذاتية التفسير (Self-Explaining Neural Networks - SENN) مفاهيم قابلة للتفسير بموثوقية، وتنوع، وارتباط مكاني (grounding)، ثم تجمعها بشكل خطي لاتخاذ القرارات. وعلى الرغم من قدرتها على تفسير ما تم التعرف عليه، إلا أن الإصدارات الأولية لها تعاني من نقص في الدقة ونطاق التعميم. نقترح نموذجًا جديدًا يُسمى الشبكة العصبية ذاتية التفسير الكمية (Quantized-Self-Explaining Neural Network - Q-SENN). يحقق Q-SENN معايير SENN أو يتجاوزها، مع إمكانية تطبيقه على مجموعات بيانات أكثر تعقيدًا، مع الحفاظ على معظم أو كل دقة النموذج الأساسي غير القابل للتفسير، ويتفوق على الدراسات السابقة في جميع المقاييس المُعتبرة. يصف Q-SENN العلاقة بين كل فئة وسمة على أنها إما إيجابية أو سلبية أو محايدة، بدلًا من مجموعة غير محددة من العلاقات الممكنة، مما يفرض ميزات أكثر ثنائية وسهولة فهمها من قبل البشر. وبما أن كل فئة تُرتب على متوسط 5 ميزات قابلة للتفسير، فإن Q-SENN يُظهر تفسيرًا مقنعًا على الصعيدين المحلي والعام. علاوةً على ذلك، نقترح طريقة لمحاذاة الميزات، تتيح محاذاة الميزات المُتعلمة مع المفاهيم القائمة على اللغة البشرية دون الحاجة إلى تدريب إضافي مُراقب. وبهذا، يصبح ما تم تعلمه أكثر سهولة في التعبير عنه شفهيًا. تم نشر الكود المصدر: https://github.com/ThomasNorr/Q-SENN