HyperAIHyperAI

Command Palette

Search for a command to run...

DiverseMotion : Vers une génération diversifiée des mouvements humains via la diffusion discrète

Yunhong Lou Linchao Zhu Yaxiong Wang Xiaohan Wang Yi Yang

Résumé

Nous présentons DiverseMotion, une nouvelle approche de synthèse de mouvements humains de haute qualité conditionnés par des descriptions textuelles tout en préservant une diversité de mouvements. Malgré les progrès récents dans la génération de mouvements humains à partir de textes, les méthodes existantes privilégient souvent l’ajustement aux mouvements d’entraînement au détriment de la diversité des actions. En conséquence, trouver un équilibre entre la qualité du mouvement et sa diversité demeure un défi non résolu. Ce problème est aggravé par deux facteurs clés : 1) le manque de diversité dans les paires mouvement-légende des benchmarks existants, et 2) une compréhension sémantique unilatérale et biaisée des prompts textuels, qui se concentrent principalement sur le verbe tout en négligeant les nuances sémantiques véhiculées par les autres mots. Pour répondre au premier problème, nous construisons un grand jeu de données, Wild Motion-Caption (WMC), afin d’étendre la frontière restreinte des actions présentes dans les jeux de données bien annotés existants, permettant ainsi l’apprentissage de mouvements variés à travers une gamme plus large d’actions. À cette fin, un modèle motion BLIP est entraîné à partir d’un modèle vision-langage préentraîné, puis des légendes de mouvements diversifiées sont générées automatiquement pour les séquences de mouvements collectées. En résultat, nous constituons finalement un jeu de données comprenant 8 888 mouvements associés à 141 000 textes. Pour une compréhension complète des commandes textuelles, nous proposons un module d’agrégation sémantique hiérarchique (HSA) afin de capturer les significations fines. Enfin, nous intégrons ces deux innovations dans un cadre efficace de diffusion discrète de mouvements (MDD) afin d’atteindre un bon équilibre entre qualité et diversité des mouvements. Des expériences étendues sur HumanML3D et KIT-ML montrent que DiverseMotion atteint l’état de l’art en termes de qualité des mouvements tout en offrant une diversité compétitive. Le jeu de données, le code source et les modèles préentraînés seront publiés afin de permettre la reproduction de tous nos résultats.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp