HyperAIHyperAI

Command Palette

Search for a command to run...

Maison Blanche et Anthropic fixent les règles de sécurité IA

La Maison Blanche et Anthropic recentrent leurs discussions sur l'élaboration d'un cadre normatif pour évaluer la sécurité des nouveaux modèles d'intelligence artificielle. Cette évolution intervient après une période de tensions marquée par le gel de l'accès aux modèles Fable 5 et Mythos 5 d'Anthropic, imposé par les autorités américaines en raison d'une faille de sécurité, souvent désignée sous le terme de jailbreak, qui permet de contourner les garde-fous du système. L'administration et la direction d'Anthropic, menée par le PDG Dario Amodei, ne s'accordaient pas sur la gravité de cette vulnérabilité. Face à ce désaccord, les négociations ont progressivement changé de cap. Les échanges, impliquant la responsable des relations publiques d'Anthropic Sarah Heck, le cofondateur Tom Brown ainsi que le secrétaire au Commerce Howard Lutnick et le directeur national de la cybersécurité Sean Cairncross, ont abouti à une série de réunions à Washington. L'objectif n'est plus de chercher un coupable, mais de définir des critères techniques objectifs pour qualifier et gérer les failles futures. Cette démarche s'inscrit dans une volonté plus large de l'administration américaine d'installer des garde-fous face à la rapidité du développement des IA génératives, qui soulèvent des inquiétudes croissantes sur les plans économique et sécuritaire. Le contexte international, marqué par les dernières assises du G7 en France, a également renforcé l'adhésion à cette idée : il est désormais admis qu'aucun système d'IA ne peut être totalement inviolable. Les régulateurs doivent donc établir des règles claires permettant aux entreprises d'évaluer leurs risques sans entraver l'innovation. Les normes en cours d'élaboration visent à mesurer avec précision l'étendue du contournement des protections, les capacités exposées par la faille et les conséquences concrètes d'une telle compromission. Cette approche pragmatique devrait permettre de désamorcer les conflits futurs entre les éditeurs de modèles et les autorités de régulation. Malgré la poursuite des restrictions à l'exportation qui frappent toujours les modèles d'Anthropic, le maintien des dialogues et la multiplication des échanges techniques entre chercheurs et fonctionnaires signalent une avancée notable. Ces pourparlers illustrent un tournant vers une gouvernance de l'IA fondée sur des standards partagés, plutôt que sur des mesures purement restrictives.

Liens associés