HyperAIHyperAI

Command Palette

Search for a command to run...

Réseau adaptateur latéral pour la segmentation sémantique à vocabulaire ouvert

Mengde Xu Zheng Zhang Fangyun Wei Han Hu Xiang Bai

Résumé

Cet article présente un nouveau cadre pour la segmentation sémantique à vocabulaire ouvert basé sur un modèle vision-langage pré-entraîné, nommé Side Adapter Network (SAN). Notre approche modélise la tâche de segmentation sémantique comme un problème de reconnaissance de régions. Un réseau secondaire est attaché à un modèle CLIP gelé, composé de deux branches : l'une pour prédire des propositions de masques, et l'autre pour prédire un biais d'attention appliqué au modèle CLIP afin de reconnaître la classe des masques. Ce design décomposé permet au modèle CLIP de mieux reconnaître la classe des propositions de masques. Étant donné que le réseau secondaire peut réutiliser les caractéristiques de CLIP, il reste très léger. En outre, le réseau entier peut être entraîné de manière end-to-end, permettant au réseau secondaire d’être adapté au modèle CLIP gelé, ce qui rend les propositions de masques prédites « conscientes de CLIP ». Notre approche est rapide, précise, et n’ajoute qu’un petit nombre de paramètres entraînables. Nous évaluons notre méthode sur plusieurs benchmarks de segmentation sémantique. Notre méthode surpasse significativement les approches concurrentes, avec jusqu’à 18 fois moins de paramètres entraînables et une vitesse d’inférence jusqu’à 19 fois plus rapide. Nous espérons que notre approche pourra servir de base solide et faciliter les recherches futures dans le domaine de la segmentation sémantique à vocabulaire ouvert. Le code source sera disponible à l’adresse suivante : https://github.com/MendelXu/SAN.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Réseau adaptateur latéral pour la segmentation sémantique à vocabulaire ouvert | Articles | HyperAI