HyperAIHyperAI

Command Palette

Search for a command to run...

PDO-eConvs : Convolutions équivariantes basées sur les opérateurs différentiels partiels

Zhengyang Shen; Lingshen He; Zhouchen Lin; Jinwen Ma

Résumé

Des recherches récentes ont montré que l'intégration de l'équivariance dans les architectures de réseaux neuronaux est très bénéfique, et plusieurs travaux ont investigué l'équivariance des réseaux sous les actions de groupes. Cependant, comme les images numériques et les cartes de caractéristiques sont sur une grille discrète, les groupes de transformations préservant l'équivariance correspondante sont très limités. Dans ce travail, nous abordons cette question en établissant un lien entre les convolutions et les opérateurs différentiels partiels (PDOs). Théoriquement, en supposant que les entrées soient lisses, nous transformons les PDOs et proposons un système qui est équivariant à un groupe continu beaucoup plus général, le groupe euclidien nnn-dimensionnel. En pratique, nous discrétisons le système en utilisant des schémas numériques pour les PDOs, dérivant ainsi des convolutions approximativement équivariantes (PDO-eConvs). Théoriquement, l'erreur d'approximation des PDO-eConvs est d'ordre quadratique. Il s'agit de la première analyse d'erreur fournie lorsque l'équivariance est approximative. De nombreuses expérimentations sur MNIST tourné et la classification d'images naturelles montrent que les PDO-eConvs offrent des performances compétitives tout en utilisant les paramètres beaucoup plus efficacement. Particulièrement, comparés aux Wide ResNets, nos méthodes produisent de meilleurs résultats en utilisant seulement 12,6% des paramètres.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp