HyperAIHyperAI

Command Palette

Search for a command to run...

Neuronale Next-Neighbor-Netze

Tobias Plötz Stefan Roth

Zusammenfassung

Nicht-lokale Methoden, die die Selbstähnlichkeit natürlicher Signale ausnutzen, wurden bereits intensiv untersucht, zum Beispiel in der Bildanalyse und -restauration. Bestehende Ansätze basieren jedoch auf einer k-nächsten-Nachbarn-(KNN-)Suche in einem festgelegten Merkmalsraum. Die Haupt Herausforderung bei der Optimierung dieses Merkmalsraums im Hinblick auf die Anwendungseffizienz ist die Nicht-Differenzierbarkeit der KNN-Auswahlregel. Um dies zu überwinden, schlagen wir eine kontinuierliche deterministische Relaxierung der KNN-Auswahl vor, die die Differenzierbarkeit bezüglich paarweiser Abstände beibehält, aber das ursprüngliche KNN als Grenzwert eines Temperaturparameters, der gegen Null geht, behält. Um unsere Relaxierung zu nutzen, schlagen wir den neuronalen nächsten Nachbarn-Block (N3-Block) vor, eine neuartige nicht-lokale Verarbeitungsschicht, die das Prinzip der Selbstähnlichkeit nutzt und als Baustein in modernen neuronalen Netzwerkarchitekturen verwendet werden kann. Wir zeigen seine Effektivität für die Mengenreasoning-Aufgabe der Korrespondenzklassifikation sowie für die Bildrestauration, einschließlich Bildentrauschung und Single-Image-Super-Resolution (SISR), wobei wir starke Baseline-Modelle von Faltungsneuronalen Netzen (CNNs) und jüngste nicht-lokale Modelle übertreffen, die auf KNN-Auswahl in manuell gewählten Merkmalsräumen basieren.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp