Vorlagenbasierte automatische Suche nach kompakten semantischen Segmentierungsarchitekturen

Die automatische Suche nach neuronalen Architekturen für verschiedene visuelle und natürlichsprachliche Aufgaben wird zunehmend zu einem wichtigen Werkzeug, da sie es ermöglicht, hochperformante Strukturen auf jedem gewünschten Datensatz zu entdecken. Dennoch sind aktuelle automatische Ansätze in schwierigeren Domänen wie der dichten Pixelklassifikation in ihrem Umfang begrenzt – aufgrund ihrer starken Abhängigkeit von existierenden Bildklassifizierern neigen sie dazu, nur eine kleine Anzahl zusätzlicher Schichten zu durchsuchen, wobei die entdeckten Architekturen immer noch eine große Anzahl von Parametern enthalten. Im Gegensatz dazu schlagen wir in dieser Arbeit eine neuartige Lösung vor, die leichte und genaue Segmentierungsarchitekturen finden kann, ausgehend von nur wenigen Blöcken eines vortrainierten Klassifikationsnetzwerks. Zu diesem Zweck entwickeln wir schrittweise eine Methodologie, die auf Vorlagen von Operationssätzen basiert, vorhersagt, welche Vorlage und wie oft bei jedem Schritt angewendet werden sollte, während sie gleichzeitig die Verbindungsstruktur und die Downsampling-Faktoren generiert. All diese Entscheidungen werden von einem rekurrenten Neuronalen Netzwerk getroffen, das auf Basis des Scores der generierten Architektur im Validierungssatz belohnt wird und mithilfe des Reinforcement Learnings trainiert wird. Eine entdeckte Architektur erreicht einen mittleren IoU-Wert von 63,2 % auf CamVid und 67,8 % auf CityScapes mit nur 270K Parametern. Vortrainierte Modelle und der Suchcode sind unter https://github.com/DrSleep/nas-segm-pytorch verfügbar.