HyperAIHyperAI

Command Palette

Search for a command to run...

Zu Best Practices bei der Erklärung von Entscheidungen neuronaler Netze mit LRP

Maximilian Kohlbrenner Alexander Bauer Shinichi Nakajima Alexander Binder Wojciech Samek Sebastian Lapuschkin

Zusammenfassung

In den letzten zehn Jahren haben prädiktive Modelle auf Basis neuronalen Netze beeindruckende – gelegentlich sogar übermenschliche – Leistungen demonstriert. Diese Leistungsfähigkeit ist jedoch oft mit einer undurchsichtigen Vorhersageprozess verbunden, was zahlreiche Beiträge im neu entstehenden Forschungsfeld der erklärbaren künstlichen Intelligenz (Explainable Artificial Intelligence, XAI) ausgelöst hat. In diesem Artikel konzentrieren wir uns auf eine populäre und weit verbreitete Methode des XAI, die Layer-wise Relevance Propagation (LRP). Seit ihrer Einführung hat sich die LRP-Methode weiterentwickelt, und es hat sich unausgesprochen eine Best-Practice-Praxis zur Anwendung der Methode herausgebildet, die jedoch allein auf menschlich beobachteten Belegen beruht. In dieser Arbeit untersuchen wir erstmals quantitativ die Wirkung dieser aktuellen Best-Practice-Praxis auf feedforward-Neuronale Netze im Kontext der visuellen Objekterkennung. Die Ergebnisse bestätigen, dass der schichtabhängige Ansatz der LRP, wie er in jüngster Literatur angewandt wird, die Denkweise des Modells besser widerspiegelt und gleichzeitig die Genauigkeit der Objektlokalisierung sowie die Klassendifferenzierbarkeit der LRP verbessert.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Zu Best Practices bei der Erklärung von Entscheidungen neuronaler Netze mit LRP | Paper | HyperAI