Apprentissage du contexte relationnel pour la détection d'interactions humain-objet

Les méthodes les plus récentes et performantes pour la détection d'interactions humain-objet (HOI) s'appuient généralement sur des architectures de transformateurs avec deux branches de décodeur, l'une pour la détection de paires humain-objet et l'autre pour la classification des interactions. Cependant, ces transformateurs dissociés peuvent souffrir d'un échange de contexte insuffisant entre les branches, ce qui entraîne un manque d'informations contextuelles pour le raisonnement relationnel, élément crucial dans la découverte d'instances HOI. Dans cette étude, nous proposons le réseau de relations multiplex (MUREN) qui effectue un échange de contexte riche entre trois branches de décodeur en utilisant des relations unaires, binaires et ternaires entre les jetons humains, objets et interactions. La méthode proposée apprend des contextes relationnels complets pour découvrir des instances HOI, atteignant ainsi des performances de pointe sur deux benchmarks standards pour la détection HOI, HICO-DET et V-COCO.