PrivateXR : Protection contre les attaques visant la vie privée dans la réalité étendue grâce à la confidentialité différentielle guidée par une IA explicable
PrivateXR : Protection contre les attaques visant la vie privée dans la réalité étendue grâce à la confidentialité différentielle guidée par une IA explicable
Ripan Kumar Kundu Istiak Ahmed Khaza Anuarul Hoque
Abstract
La convergence des technologies d’intelligence artificielle (IA) et de réalité étendue (XR), ou IA-XR, ouvre la voie à des applications innovantes dans de nombreux domaines. Toutefois, la nature sensible des données utilisées dans ces systèmes — telles que les données de suivi oculaire — soulève des préoccupations majeures en matière de confidentialité, car les attaquants peuvent exploiter ces données et ces modèles pour inférer et exposer des informations personnelles via des attaques d’inférence d’appartenance (MIA, Membership Inference Attacks) et des attaques de réidentification (RDA, Re-identification Attacks), avec un taux de succès élevé. Les chercheurs ont proposé diverses techniques pour atténuer ces attaques de confidentialité, notamment la confidentialité différentielle (DP, Differential Privacy). Toutefois, les jeux de données IA-XR contiennent souvent un grand nombre de caractéristiques, et l’application uniforme de la DP peut introduire un bruit inutile dans les caractéristiques moins pertinentes, entraînant une dégradation de la précision du modèle et une augmentation du temps d’inférence, ce qui limite leur déploiement en temps réel dans les environnements XR. Motivés par ces défis, nous proposons un cadre novateur combinant l’IA explicative (XAI, eXplainable AI) et des mécanismes de préservation de la confidentialité basés sur la DP afin de contrer les attaques de confidentialité. Plus précisément, nous exploitons des explications post-hoc pour identifier les caractéristiques les plus influentes dans les modèles IA-XR, puis appliquons de manière sélective la DP uniquement à ces caractéristiques lors de l’inférence. Nous évaluons notre approche XAI-guidée par la DP sur trois modèles d’IA-XR d’avant-garde et trois jeux de données : la cybersouffrance, l’émotion et la classification d’activités. Nos résultats montrent que la méthode proposée réduit les taux de succès des attaques MIA et RDA respectivement de jusqu’à 43 % et 39 % pour les tâches de cybersouffrance, tout en préservant l’utilité du modèle avec une précision pouvant atteindre 97 % grâce à des modèles Transformer. En outre, elle améliore le temps d’inférence jusqu’à 2 fois par rapport aux approches classiques de DP. Pour démontrer sa faisabilité pratique, nous avons déployé les modèles IA-XR à base de DP guidée par XAI sur un casque HTC VIVE Pro et développé une interface utilisateur (UI), nommée PrivateXR, permettant aux utilisateurs d’ajuster dynamiquement leur niveau de confidentialité (faible, moyen, élevé) tout en recevant des prédictions en temps réel, assurant ainsi la protection de la vie privée des utilisateurs lors d’expériences de jeu dans des environnements XR.
Build AI with AI
From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.