Reguläre Evolution für die Such nach Bildklassifizierungsarchitekturen

Die Bemühungen, neuronale Netze als Bildklassifizierer manuell zu gestalten, haben dazu geführt, dass Architektursuche zur automatischen Entdeckung dieser verwendet wird. Obwohl evolutionäre Algorithmen wiederholt auf die Topologie neuronaler Netze angewendet wurden, blieben die so entdeckten Bildklassifizierer den von Menschen entwickelten immer noch unterlegen. Hier präsentieren wir AmoebaNet-A, einen Bildklassifizierer, der zum ersten Mal manuelle Gestaltungen übertrifft. Dazu modifizieren wir den Turniersélectionsevolutionären Algorithmus (tournament selection), indem wir eine Alterskomponente einführen, um jüngere Genotypen zu bevorzugen. Bei vergleichbarer Größe erreicht AmoebaNet-A eine ähnliche Genauigkeit wie aktuelle state-of-the-art-ImageNet-Modelle, die mit komplexeren Architektursuchmethoden gefunden wurden. Wenn er auf größere Größe skaliert wird, setzt AmoebaNet-A einen neuen Stand der Technik mit einer Top-5-Genauigkeit von 83,9 % / 96,6 % für ImageNet. In einem kontrollierten Vergleich mit einem bekannten Reinforcement-Learning-Algorithmus zeigen wir Beweise dafür, dass Evolution bei gleicher Hardware schneller Ergebnisse liefert, insbesondere in den frühen Suchphasen. Dies ist relevant, wenn weniger Rechenressourcen zur Verfügung stehen. Evolution ist somit eine einfache Methode, um effektiv hochwertige Architekturen zu entdecken.