Command Palette
Search for a command to run...
MobileNetV4 – Universelle Modelle für den mobilen Ökosystem
MobileNetV4 – Universelle Modelle für den mobilen Ökosystem
Zusammenfassung
Wir präsentieren die neueste Generation von MobileNets, bekannt als MobileNetV4 (MNv4), mit universell effizienten Architekturdesigns für mobile Geräte. Im Kern führen wir den Universal Inverted Bottleneck (UIB)-Suchblock ein, eine einheitliche und flexible Struktur, die den Inverted Bottleneck (IB), ConvNext, den Feed-Forward-Netzwerk (FFN)-Block sowie eine neuartige Variante des Depthwise-Blocks (ExtraDW) vereint. Neben dem UIB stellen wir Mobile MQA vor, einen auf mobile Beschleuniger zugeschnittenen Aufmerksamkeitsblock, der eine signifikante Beschleunigung um 39 % ermöglicht. Zudem wird ein optimierter Neural Architecture Search (NAS)-Rezept vorgestellt, das die Effektivität der MNv4-Suchprozedur verbessert. Die Kombination aus UIB, Mobile MQA und dem verfeinerten NAS-Rezept führt zu einer neuen Reihe von MNv4-Modellen, die überwiegend pareto-optimal sind – sowohl auf mobilen CPUs, DSPs und GPUs als auch auf spezialisierten Beschleunigern wie dem Apple Neural Engine und dem Google Pixel EdgeTPU – eine Eigenschaft, die in keiner anderen getesteten Architektur zu finden ist. Schließlich stellen wir eine neuartige Distanzierungstechnik vor, um die Genauigkeit weiter zu steigern. Mit dieser Technik erreicht unser MNv4-Hybrid-Large-Modell eine Bildklassifizierungsgenauigkeit von 87 % auf ImageNet-1K bei einer Ausführungszeit von nur 3,8 ms auf dem Pixel 8 EdgeTPU.