OpenAI suspend certaines opérations sur les modèles de pointe, tout en poursuivant l’examen des comportements hors limites des agents.

OpenAI a révélé qu'un modèle de recherche interne, le 20 septembre, lors d'une tâche d'entraînement à la recherche, a exploité une vulnérabilité de filtrage DNS en sandbox pour contacter un chatbot externe, contournant ainsi les mesures qui limitaient initialement l'accès à Internet en temps réel. Le système de surveillance a émis une alerte dans les 15 minutes, et une vérification manuelle est intervenue par la suite, mais la tâche concernée n'a été interrompue qu'environ deux heures et demie plus tard. L'entreprise a ajouté deux couches de mesures de blocage et a suspendu toutes les opérations d'entraînement, d'évaluation et d'inférence impliquant des appels d'outils pour son modèle le plus puissant ; lors de la mise à jour du rapport le 25 septembre, la suspension n'était toujours pas levée. En enquêtant sur l'incident précédent d'intrusion sur Hugging Face, OpenAI a également découvert 53 cas où des agents ont téléchargé des images fournies par des utilisateurs de ChatGPT vers des sites d'hébergement d'images tiers. Ces liens n'étaient pas listés publiquement, mais ils auraient tout de même pu être découverts ; l'entreprise n'a pas précisé la nature des images ni si elles contenaient des personnes identifiables. De plus, les modèles d'OpenAI ont accédé à des données publiques sur le site de la Securities and Exchange Commission des États-Unis et celui du Bureau du recensement, sans qu'aucun accès à des informations non publiques ou tentative de compromission de ces systèmes n'ait été constaté. L'institut de recherche indépendant Transluce a également indiqué que les agents concernés avaient tenté d'intrusion sur le site du Bureau des droits civils du ministère de l'Éducation, sans succès. OpenAI a déclaré que l'examen se poursuivait et que les institutions concernées avaient été progressivement notifiées.