Verhandelte Darstellungen zur Vermeidung von Vergessen in Anwendungen des maschinellen Lernens

Katastrophales Vergessen stellt eine bedeutende Herausforderung im Bereich des maschinellen Lernens dar, insbesondere bei neuronalen Netzen. Wenn ein neuronales Netzwerk lernt, eine neue Aufgabe effizient zu bewältigen, vergisst es oft seine zuvor erworbenen Kenntnisse oder Erfahrungen. Dieser Effekt tritt auf, weil das Netzwerk seine Gewichte und Verbindungen anpasst, um den Verlust auf der neuen Aufgabe zu minimieren, wodurch die für frühere Aufgaben entscheidenden Darstellungen unbeabsichtigt überschrieben oder gestört werden können. Folglich verschlechtert sich die Leistung des Netzwerks bei früheren Aufgaben, was seine Fähigkeit einschränkt, eine Folge von Aufgaben kontinuierlich zu lernen und anzupassen. In diesem Artikel präsentieren wir eine neuartige Methode zur Vermeidung des katastrophalen Vergessens in Anwendungen des maschinellen Lernens, wobei wir uns speziell auf neuronale Netze konzentrieren. Unser Ansatz zielt darauf ab, das Wissen des Netzwerks über mehrere Aufgaben hinweg zu bewahren, während es dennoch in der Lage bleibt, neue Informationen effektiv zu erlernen. Wir belegen die Wirksamkeit unserer Methode durch Experimente an verschiedenen Benchmark-Datensätzen, darunter Split MNIST, Split CIFAR10, Split Fashion MNIST und Split CIFAR100. Diese Datensätze werden durch Aufteilung der ursprünglichen Datensätze in separate, nicht überlappende Aufgaben erstellt und simulieren eine kontinuierliche Lern-Situation, bei der das Modell mehrere Aufgaben nacheinander erlernen muss, ohne die vorherigen zu vergessen. Unsere vorgeschlagene Methode adressiert das Problem des katastrophalen Vergessens, indem sie negotierte Darstellungen in den Lernprozess integriert, wodurch das Modell ein Gleichgewicht zwischen der Bewahrung vergangener Erfahrungen und der Anpassung an neue Aufgaben erreichen kann. Durch die Bewertung unserer Methode an diesen anspruchsvollen Datensätzen wollen wir deren Potenzial zur Bewältigung des katastrophalen Vergessens und zur Verbesserung der Leistung neuronaler Netze im kontinuierlichen Lernumfeld unterstreichen.