HyperAIHyperAI

Command Palette

Search for a command to run...

Pensez Globalement, Agissez Localement : Transformateur Graphique à Double Échelle pour la Navigation Vision-Texte

Shizhe Chen Pierre-Louis Guhur Makarand Tapaswi Cordelia Schmid Ivan Laptev

Résumé

La navigation dans des environnements inconnus suivant des instructions linguistiques constitue un défi majeur pour les agents incarnés autonomes. L’agent doit non seulement ancrer les instructions linguistiques dans les scènes visuelles, mais aussi explorer l’environnement afin d’atteindre sa cible. Dans ce travail, nous proposons un transformateur de graphe à double échelle, DUET, pour une planification d’actions à long terme et une compréhension fine à travers les modalités (cross-modal) conjointes. Nous construisons en temps réel une carte topologique afin de permettre une exploration efficace dans l’espace d’actions global. Pour équilibrer la complexité du raisonnement dans un espace d’actions large et l’ancrage précis des langues, nous combinons dynamiquement une encodage à petite échelle basé sur les observations locales et un encodage à grande échelle sur une carte globale à l’aide de transformateurs de graphe. La méthode proposée, DUET, dépasse significativement les méthodes de pointe sur les benchmarks de navigation vision-langage orientée vers un objectif, REVERIE et SOON. Elle améliore également le taux de réussite sur le benchmark fine-grained VLN R2R.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp