HyperAIHyperAI
vor 2 Monaten

Schnelle und flexible Mehrfachklassifizierung durch bedingte neuronale adaptive Prozesse

James Requeima; Jonathan Gordon; John Bronskill; Sebastian Nowozin; Richard E. Turner
Schnelle und flexible Mehrfachklassifizierung durch bedingte neuronale adaptive Prozesse
Abstract

Das Ziel dieser Arbeit ist es, Bildklassifizierungssysteme zu entwickeln, die nach einer anfänglichen Phasen des mehrfachen Trainings automatisch auf neue Aufgaben anpassen können, die während der Testphase auftreten. Zu diesem Zweck stellen wir einen ansatzbasierten bedingten neuronalen Prozess für das mehrfache Klassifikationsszenario vor und legen Verbindungen zur Meta-Lern- und Few-Shot-Literatur her. Der resultierende Ansatz, als CNAPs (Conditional Neural Adaptive Processes) bezeichnet, besteht aus einem Klassifizierer, dessen Parameter durch ein Anpassungsnetzwerk moduliert werden, das den Datensatz der aktuellen Aufgabe als Eingabe verwendet. Wir zeigen, dass CNAPs erstklassige Transfer-Lernleistungen erzielt, was durch die herausfordernde Meta-Dataset-Benchmark bestätigt wird. Es wird gezeigt, dass der Ansatz robust ist und sowohl Überanpassung in Few-Shot-Szenarien als auch Unteranpassung in High-Shot-Szenarien vermeidet. Zeitmessungen ergaben, dass CNAPs rechnerisch effizient bei der Testzeit ist, da es keine gradientenbasierte Anpassung erfordert. Schließlich zeigen wir, dass trainierte Modelle sofort für kontinuierliches Lernen und aktives Lernen eingesetzt werden können, wobei sie bestehende Ansätze übertreffen können, die Transfer-Lernen nicht nutzen.