DivNet : variantes d'IA pour déjouer les attaques vocales

Des chercheurs de l'université George Mason ont présenté DivNet, une technique visant à protéger les assistants vocaux contre des attaques par commandes audio cachées, invisibles pour l’oreille humaine. Ces attaques exploitent des fichiers qui semblent anodins mais ordonnent à l’appareil de déverrouiller une porte, transférer de l’argent ou exécuter une autre action. Le problème est amplifié par le déploiement de modèles d’intelligence artificielle identiques sur des millions d’appareils: une manipulation réussie contre un assistant peut souvent être réutilisée contre d’autres. Conçue par Qiang Zeng et le doctorant Ying Meng, DivNet crée de nombreux variants légèrement différents d’un même modèle d’IA. La méthode s’appuie sur les poids numériques d’un réseau de neurones. Certaines valeurs sont essentielles à la reconnaissance de la voix normale, tandis que d’autres, peu utiles en usage quotidien, facilitent les attaques audio. DivNet détecte et modifie sélectivement ces dernières, produisant des modèles qui continuent de comprendre correctement les utilisateurs mais répondent différemment aux mêmes messages malveillants. L’approche fonctionne comme une clé propre à chaque appareil. Au lieu de donner à chaque objet la même défense, elle les rend individuellement résistants à une attaque générique. Un même assistant peut aussi changer régulièrement de variante, compliquant la conception et la réutilisation des attaques. Selon l’étude présentée à la conférence ACM MobiSys 2026, les tests sur des systèmes établis de reconnaissance vocale montrent une forte baisse du taux de réussite des attaques, avec une perte minime de précision dans la reconnaissance normale. Un avantage majeur est l’absence de latence supplémentaire pendant l’usage: DivNet n’ajoute pas de temps de calcul au moment de la reconnaissance vocale. La génération d’une nouvelle variante prend seulement quelques millisecondes après une première analyse, sans nécessiter de réentraînement complet ni de matériel coûteux. Les auteurs ont également créé un site avec des démonstrations audio illustrant l’effet des variants. L’équipe cherche maintenant à commercialiser la technologie et a déposé des demandes de brevet, estimant qu’elle pourrait intéresser les grandes entreprises développant des assistants vocaux et des objets connectés.