DiverseMotion : Vers une génération diversifiée des mouvements humains via la diffusion discrète

Nous présentons DiverseMotion, une nouvelle approche de synthèse de mouvements humains de haute qualité conditionnés par des descriptions textuelles tout en préservant une diversité de mouvements. Malgré les progrès récents dans la génération de mouvements humains à partir de textes, les méthodes existantes privilégient souvent l’ajustement aux mouvements d’entraînement au détriment de la diversité des actions. En conséquence, trouver un équilibre entre la qualité du mouvement et sa diversité demeure un défi non résolu. Ce problème est aggravé par deux facteurs clés : 1) le manque de diversité dans les paires mouvement-légende des benchmarks existants, et 2) une compréhension sémantique unilatérale et biaisée des prompts textuels, qui se concentrent principalement sur le verbe tout en négligeant les nuances sémantiques véhiculées par les autres mots. Pour répondre au premier problème, nous construisons un grand jeu de données, Wild Motion-Caption (WMC), afin d’étendre la frontière restreinte des actions présentes dans les jeux de données bien annotés existants, permettant ainsi l’apprentissage de mouvements variés à travers une gamme plus large d’actions. À cette fin, un modèle motion BLIP est entraîné à partir d’un modèle vision-langage préentraîné, puis des légendes de mouvements diversifiées sont générées automatiquement pour les séquences de mouvements collectées. En résultat, nous constituons finalement un jeu de données comprenant 8 888 mouvements associés à 141 000 textes. Pour une compréhension complète des commandes textuelles, nous proposons un module d’agrégation sémantique hiérarchique (HSA) afin de capturer les significations fines. Enfin, nous intégrons ces deux innovations dans un cadre efficace de diffusion discrète de mouvements (MDD) afin d’atteindre un bon équilibre entre qualité et diversité des mouvements. Des expériences étendues sur HumanML3D et KIT-ML montrent que DiverseMotion atteint l’état de l’art en termes de qualité des mouvements tout en offrant une diversité compétitive. Le jeu de données, le code source et les modèles préentraînés seront publiés afin de permettre la reproduction de tous nos résultats.