Zu Best Practices bei der Erklärung von Entscheidungen neuronaler Netze mit LRP

In den letzten zehn Jahren haben prädiktive Modelle auf Basis neuronalen Netze beeindruckende – gelegentlich sogar übermenschliche – Leistungen demonstriert. Diese Leistungsfähigkeit ist jedoch oft mit einer undurchsichtigen Vorhersageprozess verbunden, was zahlreiche Beiträge im neu entstehenden Forschungsfeld der erklärbaren künstlichen Intelligenz (Explainable Artificial Intelligence, XAI) ausgelöst hat. In diesem Artikel konzentrieren wir uns auf eine populäre und weit verbreitete Methode des XAI, die Layer-wise Relevance Propagation (LRP). Seit ihrer Einführung hat sich die LRP-Methode weiterentwickelt, und es hat sich unausgesprochen eine Best-Practice-Praxis zur Anwendung der Methode herausgebildet, die jedoch allein auf menschlich beobachteten Belegen beruht. In dieser Arbeit untersuchen wir erstmals quantitativ die Wirkung dieser aktuellen Best-Practice-Praxis auf feedforward-Neuronale Netze im Kontext der visuellen Objekterkennung. Die Ergebnisse bestätigen, dass der schichtabhängige Ansatz der LRP, wie er in jüngster Literatur angewandt wird, die Denkweise des Modells besser widerspiegelt und gleichzeitig die Genauigkeit der Objektlokalisierung sowie die Klassendifferenzierbarkeit der LRP verbessert.