InformationsEbene

Die InformationsEbene (IE) ist eine zweidimensionale Darstellung der Informationsverlauf der verborgenen Schichten während des Trainingsprozesses von tiefen neuronalen Netzen. Die Koordinatenachsen sind die gegenseitige Information zwischen Eingabe und verborgener Schicht sowie die gegenseitige Information zwischen Ausgabe und verborgener Schicht. Durch die Analyse der IE kann man die internen Informationsverarbeitungsmechanismen des Netzwerks aufdecken, die Modellarchitektur und Trainingsstrategien optimieren und die Leistung und Generalisierungsfähigkeiten des Modells verbessern. Der Anwendungswert der IE besteht darin, ein theoretisches Werkzeug zu bieten, das Forschern hilft, den Lernprozess und die Informationsübertragungseigenschaften von Deep-Learning-Modellen tiefer zu verstehen.