RECALL: rehearsal-freies kontinuierliches Lernen für die Objektklassifikation

Convolutional Neural Networks erzielen bemerkenswerte Ergebnisse bei der Klassifikation, stoßen jedoch bei der On-the-fly-Lernung neuer Inhalte auf Schwierigkeiten. Wir präsentieren einen neuartigen, datenreplay-freien Ansatz, bei dem ein tiefes neuronales Netz kontinuierlich neue, bisher unbekannte Objekt-Kategorien erlernt, ohne je Daten früherer Sequenzen zu speichern. Unser Ansatz wird als RECALL bezeichnet, da das Netzwerk Kategorien zurückruft, indem es vor der Ausbildung neuer Kategorien Logits für die alten Kategorien berechnet. Diese werden während des Trainings genutzt, um Veränderungen an den bereits gelernten Kategorien zu vermeiden. Für jede neue Sequenz wird ein neuer Kopf hinzugefügt, um die neuen Kategorien zu integrieren. Um das Vergessen zu verringern, stellen wir eine Regularisierungsstrategie vor, bei der die Klassifikation durch eine Regression ersetzt wird. Zudem schlagen wir eine Mahalanobis-Verlustfunktion für die bekannten Kategorien vor, die die Varianzen berücksichtigt, um die sich ändernden Dichteverteilungen zwischen bekannten und unbekannten Kategorien zu erfassen. Schließlich präsentieren wir eine neuartige Datensammlung für kontinuierliches Lernen, die speziell für die Objekterkennung auf einem mobilen Roboter geeignet ist (HOWS-CL-25), bestehend aus 150.795 synthetischen Bildern von 25 Haushaltsgegenständen. Unser Ansatz RECALL übertrifft die derzeitige State-of-the-Art auf CORe50 und iCIFAR-100 und erzielt die beste Leistung auf HOWS-CL-25.