HyperAIHyperAI

Command Palette

Search for a command to run...

Réseaux neuronaux non locaux désentrelacés

Minghao Yin Zhuliang Yao Yue Cao Xiu Li Zheng Zhang Stephen Lin Han Hu

Résumé

Le bloc non-local est un module couramment utilisé pour renforcer la capacité de modélisation du contexte d’un réseau neuronal convolutif classique. Cette étude examine en profondeur le bloc non-local, et nous constatons que son calcul d’attention peut être décomposé en deux composantes : un terme apparié blanchi, qui capture les relations entre deux pixels, et un terme unaire, qui représente l’importance (saliency) de chaque pixel. Nous observons également que ces deux termes, lorsqu’ils sont entraînés séparément, tendent à modéliser des indices visuels distincts : par exemple, le terme apparié blanchi apprend des relations à l’intérieur des régions, tandis que le terme unaire capture les contours saillants. Toutefois, dans le bloc non-local traditionnel, ces deux termes sont étroitement couplés, ce qui entrave leur apprentissage individuel. À partir de ces observations, nous proposons le bloc non-local désenchevêtré, dans lequel les deux termes sont découplés afin de faciliter leur apprentissage respectif. Nous démontrons l’efficacité de cette architecture désenchevêtrée sur diverses tâches, notamment la segmentation sémantique sur Cityscapes, ADE20K et PASCAL Context, la détection d’objets sur COCO, ainsi que la reconnaissance d’actions sur Kinetics.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp