Anthropic a annoncé mercredi avoir détecté et bloqué des tentatives de hackers visant à exploiter illégalement son système d'intelligence artificielle Claude. Ces attaques visaient à utiliser l'IA pour rédiger des courriels de phishing, concevoir des logiciels malveillants et contourner les filtres de sécurité mis en place par l'entreprise. L'entreprise a précisé que ses systèmes de surveillance avancés ont permis d'identifier rapidement ces tentatives de détournement, empêchant ainsi toute utilisation abusive de Claude à des fins criminelles. Ce cas souligne les efforts constants d'Anthropic pour renforcer la sécurité de ses modèles d'IA et prévenir leur exploitation par des acteurs malveillants.