SMPConv: Selbstbewegende Punktdarstellungen für kontinuierliche Faltung

Die kontinuierliche Faltung hat kürzlich an Bedeutung gewonnen, da sie in der Lage ist, unregelmäßig abgetastete Daten zu verarbeiten und langfristige Abhängigkeiten zu modellieren. Zudem haben vielversprechende experimentelle Ergebnisse bei der Verwendung großer Faltungskerne die Entwicklung der kontinuierlichen Faltung angeregt, da diese Kerne sehr effizient konstruiert werden können. Die Nutzung von neuronalen Netzen, insbesondere mehrschichtigen Perzeptronen (MLPs), ist bislang der am häufigsten verwendete Ansatz zur Implementierung der kontinuierlichen Faltung. Allerdings gibt es einige Nachteile, wie hohe Rechenkosten, komplexe Hyperparameter-Optimierung und begrenzte Beschreibungsleistung der Filter. In dieser Arbeit wird ein alternativer Ansatz vorgeschlagen, um eine kontinuierliche Faltung ohne neuronale Netze zu bauen, was zu einer rechnerisch effizienteren und verbesserten Leistung führt. Wir stellen selbstbewegte Punktdarstellungen vor, bei denen Gewichtsparameter frei bewegen können, und Interpolationsverfahren werden verwendet, um kontinuierliche Funktionen zu implementieren. Bei der Anwendung zur Konstruktion von Faltungskernen haben die experimentellen Ergebnisse eine verbesserte Leistung gezeigt, wenn sie als Drop-in-Ersatz in bestehenden Frameworks eingesetzt werden. Aufgrund ihrer leichten Struktur sind wir die Ersten, die die Effektivität der kontinuierlichen Faltung in einem groß angelegten Szenario, z.B. ImageNet, demonstrieren und Verbesserungen gegenüber früheren Arbeiten aufzeigen. Unser Code ist unter https://github.com/sangnekim/SMPConv verfügbar.