HyperAIHyperAI
vor 2 Monaten

Schnelle Anpassung mit bedingt verschobenen Neuronen

Tsendsuren Munkhdalai; Xingdi Yuan; Soroush Mehri; Adam Trischler
Schnelle Anpassung mit bedingt verschobenen Neuronen
Abstract

Wir beschreiben ein Mechanismus, durch den künstliche neuronale Netze schnelle Anpassungsfähigkeiten erlernen können – die Fähigkeit, sich mit wenig Daten und spontan an neue Aufgaben anzupassen –, den wir bedingt verschobene Neuronen nennen. Dieses Verfahren wird im Rahmen des Meta-Learnings angewendet, bei dem das Ziel darin besteht, einige der Flexibilität menschlichen Lernens in Maschinen zu replizieren. Bedingt verschobene Neuronen modifizieren ihre Aktivierungswerte durch aufgabenspezifische Verschiebungen, die aus einem Speichermodul abgerufen werden, das schnell basierend auf begrenzter Aufgaben-Erfahrung gefüllt wird. Bei Meta-Learning-Benchmarks aus den Bereichen Vision und Sprache erreichen Modelle, die mit bedingt verschobenen Neuronen ergänzt wurden, Stand-der-Technik-Ergebnisse.