HyperAIHyperAI

Command Palette

Search for a command to run...

GCNet: Nicht-lokale Netzwerke treffen auf Squeeze-Excitation Netzwerke und mehr

Yue Cao extsuperscript1,3* Jiarui Xu extsuperscript2,3* Stephen Lin extsuperscript3 Fangyun Wei extsuperscript3 Han Hu extsuperscript3

Zusammenfassung

Das Non-Local Netzwerk (NLNet) präsentiert einen bahnbrechenden Ansatz zur Erfassung von langreichweitigen Abhängigkeiten, indem es positionsspezifischen globalen Kontext zu jeder Abfrageposition aggregiert. Durch eine sorgfältige empirische Analyse haben wir jedoch festgestellt, dass die durch das Non-Local Netzwerk modellierten globalen Kontexte für verschiedene Abfragepositionen innerhalb eines Bildes fast identisch sind. In dieser Arbeit nutzen wir dieses Ergebnis, um ein vereinfachtes Netzwerk basierend auf einer abfrageunabhängigen Formulierung zu entwickeln, das die Genauigkeit des NLNet beibehält, aber mit erheblich weniger Berechnungen arbeitet. Wir stellen weiterhin fest, dass diese vereinfachte Architektur eine ähnliche Struktur wie das Squeeze-Excitation Netzwerk (SENet) aufweist. Daher vereinen wir sie in einem dreistufigen allgemeinen Rahmen für die Modellierung globalen Kontexts. Innerhalb dieses allgemeinen Rahmens entwerfen wir eine bessere Instanzierung, den sogenannten Global Context (GC)-Block, der leichtgewichtig ist und den globalen Kontext effektiv modellieren kann. Die Eigenschaft der Leichtgewichtigkeit ermöglicht es uns, ihn für mehrere Schichten in einem Backbone-Netzwerk anzuwenden, um ein Global Context Netzwerk (GCNet) zu konstruieren, das bei wichtigen Benchmarks für verschiedene Erkennungsaufgaben sowohl das vereinfachte NLNet als auch das SENet übertrifft. Der Code und die Konfigurationen sind unter https://github.com/xvjiarui/GCNet veröffentlicht.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
GCNet: Nicht-lokale Netzwerke treffen auf Squeeze-Excitation Netzwerke und mehr | Paper | HyperAI