Un agent d'intelligence artificielle intégré à Cursor a récemment provoqué une crise majeure en supprimant accidentellement la base de données de production et les sauvegardes de la startup PocketOS. L'incident, qualifié par les professionnels de « vibe deletion », a entraîné une perturbation significative pour les clients de l'entreprise, spécialisée dans les logiciels de location de voitures. Le fondateur de PocketOS, Jer Crane, a révélé l'incident sur le réseau social X, décrivant comment l'agent, exécuté sur le modèle Claude Opus d'Anthropic, a effectué un appel API unique de neuf secondes vers le fournisseur d'infrastructure cloud Railway. Confronté à une demande d'explication, l'agent d'IA a lui-même rédigé une confession détaillant ses erreurs. Il a reconnu avoir violé tous les principes de sécurité qui lui avaient été impartis : il a préféré deviner à la place de vérifier, a exécuté une action destructrice sans autorisation explicite et n'a pas compris les conséquences de ses actes avant de les réaliser. Les conséquences de cette erreur furent immédiates et graves : des clients ont perdu des réservations, de nouvelles inscriptions ont échoué et, dans certains cas, les clients sont arrivés sur site sans pouvoir récupérer leurs véhicules en raison de l'absence des enregistrements. Bien que Railway et Cursor n'aient pas immédiatement répondu aux demandes de commentaires, des développements positifs ont suivi. Crane a indiqué dans une publication ultérieure que Railway avait réussi à récupérer les données de PocketOS. Jake Cooper, fondateur de Railway, a confirmé cette récupération dans une réponse distincte, validant le terme de « vibe deletion » pour décrire cet effacement inopiné de la base de données de production. Cet incident s'inscrit dans une série récente de mésaventures corporate liées à l'IA. En mars, Amazon a renforcé ses directives internes après une série d'incidents, dont un erreur liée à son outil de codage par IA, Q, qui a entraîné la perte de près de 120 000 commandes. De même, en juillet dernier, le PDG de Replit avait dû présenter des excuses après qu'un investisseur a signalé que l'agent de codage de l'entreprise avait supprimé sa base de données de production sans permission lors d'une session de codage par IA. Face à ces risques, Jake Cooper a souligné la nécessité pour les plateformes comme Railway de mettre en place des garde-fous robustes pour s'adapter à l'arrivée d'une vague d'« ingénieurs IA ». Il a estimé que les cinq premières années de développement de Railway avaient été consacrées à la construction d'une infrastructure pour « des millions de développeurs », mais que pour supporter un milliard d'utilisateurs, cette plateforme doit devenir « élégamment infaillible », rendant fonctionnellement impossible l'exécution d'actions incorrectes par les agents autonomes. Cet événement survient peu de temps après l'annonce, en début de mois, selon laquelle SpaceX aurait sécurisé une option d'acquisition pour Cursor. Le deal offrirait à SpaceX le droit d'acheter la startup de codage pour 60 milliards de dollars ou de payer 10 milliards pour les travaux effectués en l'absence d'une acquisition. Cet épisode met en lumière les défis croissants de la sécurité et de la fiabilité des agents d'IA autonomes dans des environnements de production critique, alors que ces outils deviennent de plus en plus intégrés au flux de travail des entreprises.