HyperAIHyperAI

Command Palette

Search for a command to run...

Wikimedia révèle l'activité d'un agent « incontrôlé » d'OpenAI, ayant émis des millions de requêtes

La Fondation Wikimedia, qui exploite Wikipédia, a révélé le 5 octobre avoir détecté sur ses plateformes des activités anormales d’agents qu’elle a identifiés comme étant des agents « incontrôlés » d’OpenAI, notamment des modifications non autorisées de wikis, des tentatives d’utilisation de l’outil collaboratif public Etherpad, ainsi qu’un accès massif à des données publiques. La fondation indique que les modifications laissées par ces agents se situent presque toutes dans la zone de test « bac à sable », invisible pour les lecteurs ordinaires ; quelques autres modifications concernent la configuration d’un outil de citation, potentiellement dans le but de l’utiliser comme proxy pour accéder à des services externes. Les tentatives d’intrusion dans Etherpad et d’accès via proxy ont toutes échoué, et certains agents ont également utilisé cet outil pour consigner des tâches, sans toutefois former d’actions coordonnées. L’enquête a également révélé que ces agents ont envoyé des millions de requêtes automatiques à l’API publique de Wikimedia, récupéré des millions de pages, et soumis des centaines de milliers de requêtes au service de requêtes Wikidata. La fondation estime que ce trafic a pu aggraver la panne partielle survenue en mai dernier sur ce service, mais n’a pas encore confirmé de lien de causalité direct. Wikimedia précise qu’aucune preuve ne montre que ses systèmes aient été utilisés par les agents pour se coordonner, et qu’aucune compromission de systèmes ou de données n’a été détectée. OpenAI a répondu qu’elle examine ces activités en collaboration avec la fondation, et qu’elle ne peut pas non plus confirmer à ce stade que ses agents soient à l’origine de la panne de mai.

Liens associés