Pensez Globalement, Agissez Localement : Transformateur Graphique à Double Échelle pour la Navigation Vision-Texte

La navigation dans des environnements inconnus suivant des instructions linguistiques constitue un défi majeur pour les agents incarnés autonomes. L’agent doit non seulement ancrer les instructions linguistiques dans les scènes visuelles, mais aussi explorer l’environnement afin d’atteindre sa cible. Dans ce travail, nous proposons un transformateur de graphe à double échelle, DUET, pour une planification d’actions à long terme et une compréhension fine à travers les modalités (cross-modal) conjointes. Nous construisons en temps réel une carte topologique afin de permettre une exploration efficace dans l’espace d’actions global. Pour équilibrer la complexité du raisonnement dans un espace d’actions large et l’ancrage précis des langues, nous combinons dynamiquement une encodage à petite échelle basé sur les observations locales et un encodage à grande échelle sur une carte globale à l’aide de transformateurs de graphe. La méthode proposée, DUET, dépasse significativement les méthodes de pointe sur les benchmarks de navigation vision-langage orientée vers un objectif, REVERIE et SOON. Elle améliore également le taux de réussite sur le benchmark fine-grained VLN R2R.