HyperAIHyperAI
vor 17 Tagen

Polynomielle implizite neuronale Darstellungen für große und vielfältige Datensätze

Rajhans Singh, Ankita Shukla, Pavan Turaga
Polynomielle implizite neuronale Darstellungen für große und vielfältige Datensätze
Abstract

Implizite neuronale Darstellungen (INR) haben in den letzten Jahren erhebliche Popularität für die Repräsentation von Signalen und Bildern erlangt, insbesondere in Anwendungen wie Superresolution, 3D-Modellierung und weiteren Endaufgaben. Die meisten INR-Architekturen basieren auf sinusförmiger Positionscodierung, die eine effektive Erfassung hochfrequenter Informationen in den Daten ermöglicht. Allerdings beschränkt die endliche Codierungsgröße die repräsentative Kapazität des Modells. Für den Übergang von der Darstellung einzelner Bilder hin zu großen und vielfältigen Datensätzen ist eine höhere repräsentative Leistungsfähigkeit erforderlich. Unser Ansatz schließt diese Lücke, indem er ein Bild durch eine Polynomfunktion repräsentiert und damit die Notwendigkeit von Positionscodierungen überflüssig macht. Um eine schrittweise Erhöhung des Gradus der Polynomdarstellung zu erreichen, wenden wir elementweise Multiplikationen zwischen Merkmalen und affin transformierten Koordinaten nach jeder ReLU-Schicht an. Das vorgeschlagene Poly-INR-Modell wird qualitativ und quantitativ an großen Datensätzen wie ImageNet evaluiert. Es erreicht Leistungen, die mit den derzeit besten generativen Modellen vergleichbar sind – ohne Verwendung von Faltungsoperationen, Normalisierungsschichten oder Self-Attention-Strukturen – und verfügt dabei über deutlich weniger trainierbare Parameter. Aufgrund der geringeren Anzahl an Trainingsparametern und der höheren repräsentativen Kapazität eröffnet unser Ansatz neue Perspektiven für eine breitere Anwendung von INR-Modellen in generativen Modellierungsaufgaben komplexer Domänen. Der Quellcode ist unter \url{https://github.com/Rajhans0/Poly_INR} verfügbar.

Polynomielle implizite neuronale Darstellungen für große und vielfältige Datensätze | Neueste Forschungsarbeiten | HyperAI