HyperAIHyperAI

Command Palette

Search for a command to run...

Un expert en synchronisation labiale est tout ce dont vous avez besoin pour la génération de mouvements des lèvres à partir de la parole dans des conditions réelles.

Résumé

Dans cette étude, nous examinons le problème de la synchronisation labiale d'une vidéo de visage parlant d'une identité quelconque pour qu'elle corresponde à un segment de parole cible. Les travaux actuels excellent dans la production de mouvements labiaux précis sur une image statique ou des vidéos de personnes spécifiques observées lors de la phase d'entraînement. Cependant, ils échouent à morpher avec précision les mouvements labiaux d'identités arbitraires dans des vidéos de visages parlants dynamiques et non contraintes, ce qui entraîne des parties significatives de la vidéo qui ne sont pas synchronisées avec l'audio nouveau. Nous identifions les raisons clés liées à cela et les résolvons en apprenant d'un puissant discriminateur de synchronisation labiale. Ensuite, nous proposons de nouvelles et rigoureuses banques d'évaluation et métriques pour mesurer avec précision la synchronisation labiale dans des vidéos non contraintes. Des évaluations quantitatives approfondies sur nos bancs d'essai difficiles montrent que la précision de la synchronisation labiale des vidéos générées par notre modèle Wav2Lip est presque aussi bonne que celle des vidéos réellement synchronisées. Nous fournissons une démonstration vidéo clairement montrant l'impact considérable de notre modèle Wav2Lip et des banques d'évaluation sur notre site web : \url{cvit.iiit.ac.in/research/projects/cvit-projects/a-lip-sync-expert-is-all-you-need-for-speech-to-lip-generation-in-the-wild}. Le code source et les modèles sont disponibles dans ce dépôt GitHub : \url{github.com/Rudrabha/Wav2Lip}. Vous pouvez également essayer la démonstration interactive via ce lien : \url{bhaasha.iiit.ac.in/lipsync}.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp