Tiefes Lernen ist aufgrund seiner Flexibilität und Anpassungsfähigkeit zu einer allgemein gültigen Lösung für technische und geschäftliche Anwendungsbereiche geworden. Es wird häufig mit undurchsichtigen Modellen umgesetzt, was die Vertrauenswürdigkeit der Ergebnisse leider beeinträchtigt. Um das Verhalten eines Systems – insbesondere eines durch Zeitreihen gesteuerten – besser zu verstehen, ist ein Blick „in das Innere“ eines tiefen Lernmodells mittels sogenannter post-hoc erklärbarer künstlicher Intelligenz (XAI, explainable artificial intelligence) von entscheidender Bedeutung. Für Zeitreihendaten existieren zwei Hauptkategorien von XAI-Ansätzen: modellunabhängige und modellspezifische Verfahren. In dieser Arbeit wird ein modellspezifischer Ansatz verfolgt. Während andere Ansätze entweder die Class Activation Mapping (CAM) oder Mechanismen der Aufmerksamkeit (Attention Mechanism) nutzen, integrieren wir beide Strategien in ein einziges System, das einfach als temporally weighted spatiotemporal explainable neural network for multivariate time series (TSEM) bezeichnet wird. TSEM kombiniert die Stärken von RNN- und CNN-Modellen derart, dass die verborgenen Einheiten des RNN als Aufmerksamkeitsgewichte entlang der zeitlichen Achse der Feature-Maps des CNN verwendet werden. Die Ergebnisse zeigen, dass TSEM die Leistung von XCM übertrifft. In Bezug auf die Genauigkeit ist TSEM vergleichbar mit STAM, erfüllt jedoch zusätzlich eine Reihe von Interpretierbarkeitskriterien, darunter Kausalität, Treue (fidelity) und spatiotemporale Kohärenz.