PS-NeRV : Représentations neurales stylisées par patch pour les vidéos

Nous étudions la représentation vidéo à l’aide de représentations neuronales implicites (INRs). Les méthodes classiques basées sur les INRs utilisent généralement des réseaux de neurones multicouches (MLPs) pour mapper des coordonnées d’entrée vers des pixels de sortie. Bien que certaines études récentes aient tenté de reconstruire directement l’image entière à l’aide de réseaux de neurones convolutifs (CNNs), nous soutenons que les deux approches — par pixel et par image — ne sont pas optimales pour les données vidéo. À la place, nous proposons une solution par patch, appelée PS-NeRV, qui représente les vidéos comme une fonction des patches et de leurs coordonnées correspondantes. Cette approche hérite naturellement des avantages des méthodes par image tout en offrant une excellente performance de reconstruction et une vitesse de décodage rapide. La méthode globale repose sur des composants classiques tels que l’embedding de position, les MLPs et les CNNs, tout en introduisant une normalisation adaptative (AdaIN) pour renforcer les caractéristiques intermédiaires. Ces modifications simples mais essentielles permettent au réseau d’ajuster facilement les détails de haute fréquence. Des expériences étendues démontrent son efficacité dans plusieurs tâches liées aux vidéos, telles que la compression vidéo et le remplissage de vidéos (video inpainting).