Théorie des jeux pour sécuriser la sortie des modèles d'IA

Dans une étude présentée le 26 octobre à la GameSec 2026, à Ann Arbor, le chercheur Christoph Landolt, rattaché à l’équipe de Mario Fritz au CISPA, propose d’utiliser la théorie des jeux pour adapter la cybersécurité à l’ère des modèles d’IA de pointe. Avec ses co-auteurs Tobias Lorenz, Marta Kwiatkowska et Mario Fritz, il reprend l’image de la course de la Reine rouge : plus les éditeurs de logiciels et les défenseurs courent vite pour corriger des failles, plus les nouveaux modèles d’IA leur rendent la tâche difficile. Leur constat est simple. Les capacités offensives et défensives des modèles frontière augmentent à chaque nouvelle sortie. En février 2026, la disponibilité publique de Claude Opus 4.6 a permis de découvrir plus de 500 vulnérabilités à fort impact dans des logiciels open source en deux jours. En avril 2026, Anthropic a renoncé à publier Claude Mythos Preview, jugeant la machine trop efficace pour repérer des failles inconnues, et l’a réservée à certaines entreprises américaines dans le cadre de Project Glasswing. L’étude s’appuie sur une question centrale : quand les attaquants peuvent exploiter les mêmes modèles que les défenseurs, la divulgation responsable classique reste-t-elle viable ? Historiquement, la divulgation responsable donne un temps d’avance aux éditeurs : les chercheurs signalent une faille en privé, l’éditeur développe un correctif, puis l’information est rendue publique. Mais les modèles d’IA abaissent radicalement ce délai. Selon le site zerodayclock.com, le temps entre la révélation d’une vulnérabilité et une attaque est passé d’environ 2,3 ans en 2018 à seulement 10 heures en 2026. Si les pirates découvrent et exploitent des failles plus vite que les utilisateurs ne peuvent appliquer les correctifs, l’intérêt même de corriger ou d’installer un patch peut disparaître. Pour éviter cette impasse, les chercheurs proposent une séquence de publication plus prudente des modèles d’IA frontière. Leur approche, baptisée The Oracle’s Gambit, utilise un modèle de Stackelberg, un jeu stratégique à deux niveaux. Au premier niveau, le laboratoire d’IA définit sa politique de sortie : accès public, accès limité, test en phase ou accès anticipé pour certains défenseurs. Au second niveau, éditeurs logiciels et cybercriminels utilisent le modèle, les premiers pour détecter et corriger des failles, les seconds pour les exploiter. La défense est structurellement plus difficile : un éditeur doit garantir la sécurité, la stabilité et la disponibilité du système, tandis qu’un attaquant peut se contenter d’une exploitation rapide. Publier un correctif présente aussi un risque, car il peut être analysé en sens inverse pour concevoir une attaque. Face à cette asymétrie, le laboratoire d’IA doit trouver une stratégie maximisant l’intérêt collectif. Le modèle suppose qu’il arbitre entre les pertes de marché liées à une sortie retardée et les risques réputationnels si son modèle est utilisé pour des attaques majeures. Cette méthode vise à donner aux éditeurs un temps d’avance suffisant pour préparer des correctifs avant l’accès public, tout en gardant des incitations économiques. Les auteurs reconnaissent toutefois que la modélisation est difficile : le jeu complet serait trop complexe. Ils ont donc recouru à des simplifications, avec des calculs nécessitant deux téraoctets de mémoire pour résoudre le modèle une fois. L’étude apporte un cadre théorique, destiné à être confronté aux pratiques réelles de l’industrie de l’IA.