HyperAIHyperAI

Command Palette

Search for a command to run...

TubeDETR : Ancrage spatio-temporel de vidéos avec des Transformers

Antoine Yang Antoine Miech Josef Sivic Ivan Laptev Cordelia Schmid

Résumé

Nous abordons le problème de la localisation d'un tube spatio-temporel dans une vidéo en réponse à une requête textuelle donnée. Il s'agit d'une tâche complexe qui nécessite la modélisation conjointe et efficace des interactions temporelles, spatiales et multimodales. Pour relever ce défi, nous proposons TubeDETR, une architecture basée sur les transformateurs, inspirée par les récents succès de ces modèles pour la détection d'objets conditionnée par du texte. Notre modèle comprend notamment : (i) un encodeur vidéo et texte efficace qui modélise les interactions multimodales spatiales sur des images clés échantillonnées de manière éparses et (ii) un décodeur espace-temps qui effectue conjointement la localisation spatio-temporelle. Nous illustrons l'avantage de nos composants proposés à travers une étude d'élagage exhaustive. Nous évaluons également notre approche complète sur la tâche de mise en correspondance spatio-temporelle de vidéos et montrons des améliorations par rapport à l'état de l'art sur les benchmarks difficiles VidSTG et HC-STVG. Le code source et les modèles entraînés sont disponibles publiquement à l'adresse suivante : https://antoyang.github.io/tubedetr.html.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
TubeDETR : Ancrage spatio-temporel de vidéos avec des Transformers | Articles | HyperAI