Neuronale Next-Neighbor-Netze

Nicht-lokale Methoden, die die Selbstähnlichkeit natürlicher Signale ausnutzen, wurden bereits intensiv untersucht, zum Beispiel in der Bildanalyse und -restauration. Bestehende Ansätze basieren jedoch auf einer k-nächsten-Nachbarn-(KNN-)Suche in einem festgelegten Merkmalsraum. Die Haupt Herausforderung bei der Optimierung dieses Merkmalsraums im Hinblick auf die Anwendungseffizienz ist die Nicht-Differenzierbarkeit der KNN-Auswahlregel. Um dies zu überwinden, schlagen wir eine kontinuierliche deterministische Relaxierung der KNN-Auswahl vor, die die Differenzierbarkeit bezüglich paarweiser Abstände beibehält, aber das ursprüngliche KNN als Grenzwert eines Temperaturparameters, der gegen Null geht, behält. Um unsere Relaxierung zu nutzen, schlagen wir den neuronalen nächsten Nachbarn-Block (N3-Block) vor, eine neuartige nicht-lokale Verarbeitungsschicht, die das Prinzip der Selbstähnlichkeit nutzt und als Baustein in modernen neuronalen Netzwerkarchitekturen verwendet werden kann. Wir zeigen seine Effektivität für die Mengenreasoning-Aufgabe der Korrespondenzklassifikation sowie für die Bildrestauration, einschließlich Bildentrauschung und Single-Image-Super-Resolution (SISR), wobei wir starke Baseline-Modelle von Faltungsneuronalen Netzen (CNNs) und jüngste nicht-lokale Modelle übertreffen, die auf KNN-Auswahl in manuell gewählten Merkmalsräumen basieren.