Dimon met en garde contre l'accès large au modèle IA Mythos
Le PDG de JPMorgan Chase, Jamie Dimon, a tiré la sonnette d'alarme concernant le modèle d'intelligence artificielle Mythos d'Anthropic lors du sommet sur la défense et l'innovation en Pennsylvanie. Comparant un accès large à ce système à une distribution de missiles balistiques entre les mains de particuliers, il a souligné les risques sécuritaires majeurs associés à sa disponibilité publique. Son intervention s'inscrit dans un débat plus large sur la régulation des IA de pointe, un thème abordé lors d'un panel réunissant des responsables politiques et de la défense. Mythos 5, la version la plus avancée de cette série développée par Anthropic, possède des capacités exceptionnelles pour identifier des vulnérabilités critiques au sein des systèmes d'exploitation. Si ces prouesses techniques témoignent de la puissance algorithmique de l'éditeur, elles suscitent également de sérieuses inquiétudes en matière de cybersécurité. Face à ces enjeux, Anthropic a décidé en avril de suspendre provisoirement la diffusion du modèle, estimant qu'il était excessivement performant dans la détection de failles de haut niveau. La société prévoyait initialement de restreindre son utilisation à un cercle restreint d'organisations américaines. En juin, Anthropic a tout de même publié la version Fable 5, un dérivé de Mythos 5 intégrant des garde-fous visant à limiter les risques liés à la cybersécurité et aux sciences biologiques. Cependant, les autorités américaines ont rapidement jugé que ces mécanismes de sécurité pouvaient être contournés. Le gouvernement a imposé des contrôles stricts sur l'exportation de Fable 5 et de Mythos 5, interdisant notamment leur usage par les ressortissants étrangers. En réaction, Anthropic a temporairement bloqué l'accès à ses modèles pour l'ensemble des utilisateurs. La situation évolue favorablement depuis le 30 juin. Le département du Commerce américain a officiellement levé les restrictions à l'exportation concernant Fable 5 et Mythos 5. Anthropic a aussitôt confirmé le rétablissement progressif de l'accès pour ses utilisateurs et a remercié le public pour sa patience, tout en indiquant qu'un communiqué plus détaillé sur le déploiement serait publié prochainement. Les représentants d'Anthropic et de JPMorgan Chase n'ont pas commenté ces développements en marge de la publication. Cette affaire met en lumière la tension croissante entre l'innovation accélérée dans le secteur de l'intelligence artificielle et les impératifs de sécurité nationale. La vigilance des instances gouvernementales et des acteurs financiers face aux technologies émergentes confirme la nécessité d'un cadre de déploiement rigoureux, capable d'endiguer les risques systémiques tout en préservant les avancées technologiques.
