Fusion intermodale et mécanisme d'attention pour la détection faiblement supervisée d'anomalies vidéo

Récemment, la détection faiblement supervisée d'anomalies vidéo (WS-VAD) est apparue comme une nouvelle direction de recherche visant à identifier des événements anormaux tels que la violence et la nudité dans les vidéos en utilisant uniquement des étiquettes au niveau de la vidéo. Cependant, cette tâche présente des défis considérables, notamment le traitement de l'information modale déséquilibrée et la distinction cohérente entre les caractéristiques normales et anormales. Dans cet article, nous abordons ces défis et proposons un cadre multi-modal WS-VAD pour détecter avec précision des anomalies telles que la violence et la nudité. Au sein de ce cadre proposé, nous introduisons un nouveau mécanisme de fusion appelé Adaptateur de Fusion Inter-modale (Cross-modal Fusion Adapter - CFA), qui sélectionne dynamiquement et améliore les caractéristiques audiovisuelles hautement pertinentes par rapport à la modalité visuelle. De plus, nous présentons une Attention Graphique Lorentzienne Hyperbolique (Hyperbolic Lorentzian Graph Attention - HLGAtt) pour capturer efficacement les relations hiérarchiques entre les représentations normales et anormales, ce qui améliore ainsi la précision de séparation des caractéristiques. À travers des expériences approfondies, nous montrons que le modèle proposé atteint des résultats d'état de l'art sur des jeux de données de référence pour la détection de violence et de nudité.