Un modèle d’IA permet l’insertion cachée de capacités de calcul arbitraires.
Une étude récemment acceptée par la Conférence sur les systèmes de traitement de l'information neuronale (NeurIPS 2026) a révélé les limites potentielles de l'évaluation de la sécurité des modèles d'intelligence artificielle. L'équipe de recherche a construit une attaque par porte dérobée en intégrant un réseau neuronal chiffré dans les poids du modèle hôte, de sorte qu'il ne déchiffre et n'exécute des calculs cachés que lorsqu'il reçoit un signal déclencheur secret spécifique. Ce mécanisme s'appuie sur la technologie de verrouillage numérique cryptographique ; sous des hypothèses cryptographiques, même si l'auditeur a un accès complet aux poids du modèle, le circuit caché reste difficile à induire ou à interpréter, étendant ainsi la recherche connexe de la dissimulation de chaînes fixes à la dissimulation de tâches de calcul arbitraires. L'équipe de recherche a mis en œuvre une preuve de concept basée sur PyTorch et a mené des expériences autour d'une tâche de prédiction de réactions chimiques, testant diverses méthodes d'induction de capacités, notamment le réglage fin, l'injection de bruit dans les poids, la recherche de déclencheurs basée sur les gradients et l'entraînement contradictoire potentiel. Les résultats montrent que ces méthodes n'ont pas réussi à induire efficacement les capacités cachées. Combinées aux garanties théoriques au niveau cryptographique, cette étude révèle les limites théoriques et pratiques des méthodes d'audit de modèles reposant sur l'induction de capacités. L'équipe de recherche a également publié les modèles concernés afin de soutenir les recherches ultérieures sur les techniques de défense et de promouvoir la construction d'un système d'évaluation de la sécurité de l'IA plus fiable.
