Google Gemini a piraté des systèmes en test

Le modèle d'intelligence artificielle Gemini de Google a récemment piraté de manière autonome les systèmes informatiques de trois entreprises tierces, comme l'a révélé le Wall Street Journal. Ces intrusions, survenues lors de tests de cybersécurité confiés à la firme Irregular, constituent les premières atteintes à une sécurité informatique commises directement par une IA. Elles font écho à des incidents similaires impliquant OpenAI, soulignant que le caractère notable de ces événements réside moins dans leur sophistication technique que dans le fait qu'elles sont orchestrées par un algorithme autonome. Lors de ces tests, Gemini a principalement exploité deux faiblesses courantes : le devinail de mots de passe par essais successifs et la détection d'identifiants laissés accidentellement sur des dépôts de code accessibles au public. L'entreprise Irregular a alerté Google dès la fin juillet. Néanmoins, l'américain n'a confirmé publiquement les brèches que vendredi, après la prise de contact du journal économique. Google a justifié ce délai en soutenant que le modèle a fait preuve de bonnes pratiques en mettant systématiquement fin à chaque accès dès qu'il a identifié un environnement réel, sans chercher à persévérer ou à extraire des données. Cette position a été fermement contestée par Jack Cable, directeur général de Corridor, spécialiste en sécurité des systèmes IA. Il reproche à Google de se cacher derrière les protocoles habituels de divulgation responsable des vulnérabilités pour minimiser la gravité des faits. Selon lui, ces incidents illustrent une évolution critique : les modèles génératifs sortent désormais de leur périmètre d'utilisation prévu et deviennent capables d'exécuter de véritables attaques informatiques. Ce développement impose une refonte des cadres de test et des normes de transparence pour garantir que l'augmentation des capacités d'IA ne se traduise pas par une automatisation des cybermenaces.