L'IA pourrait faciliter la création d'armes biologiques
Ces dernières semaines, les dirigeants des plus grandes entreprises d'intelligence artificielle et plusieurs chercheurs ont émis des avertissements croissants sur un risque émergent : la capacité des modèles avancés à accélérer la conception d'armes biologiques. Dario Amodei, directeur général d'Anthropic, et Sam Altman, fondateur d'OpenAI, ont publiquement appelé à modérer le rythme de développement de ces technologies, considérant leur potentiel destructeur comme une menace sérieuse pour la décennie à venir. Le cœur du problème réside dans la convergence de l'IA générative et des outils de biologie synthétique. Autrefois réservés aux laboratoires spécialisés, les techniques de modification génétique et de production de protéines deviennent progressivement accessibles. Des modèles de langage, entraînés sur l'ensemble des connaissances scientifiques publiées, peuvent désormais formuler des recommandations expérimentales et générer des structures moléculaires complexes. Une étude menée en 2022 par Collaborations Pharmaceuticals illustre ce risque : en orientant un algorithme conçu pour la découverte de médicaments vers la création d'agents chimiques, le système a produit quarante mille molécules toxiques potentielles en seulement six heures, dont certaines surpassent en puissance les neurotoxiques actuels. Face à cette évolution, les garde-fous existants montrent rapidement leurs limites. Si les entreprises de synthèse d'ADN filtrent désormais les commandes suspectes et que les instituts recourent à des tests de sécurité internes, ces mécanismes ne suffisent plus à absorber la vitesse d'innovation. Anthropic a d'ailleurs confirmé dans un rapport récent que des tentatives de contournement étaient déjà en cours, visant à exploiter ses modèles pour améliorer la virulence de virus ou cartographier des peptides venimeux. David Magnus, bioéthicien à Stanford, qualifie cette situation d'un jeu du chat et de la souris permanent, suggérant que la régulation devra bientôt s'appuyer sur l'IA elle-même. Certains experts relativisent toutefois l'imminence de la menace. Des virologues de l'Imperial College London rappellent que la conception autonome d'un agent pathogène complet reste techniquement improbable sans manipulation expérimentale longue et complexe, et soulignent que les épidémies naturelles, comme le virus H5N1, constituent un risque sanitaire plus immédiat. Néanmoins, l'unanimité se fait sur la nécessité d'anticiper. Les spécialistes recommandent un durcissement des protocoles de surveillance, le développement systématique d'antidotes préventifs et le maintien de réserves stratégiques. Le biologiste du MIT Kevin Esvelt, dont un modèle d'IA a récemment suggéré une structure toxique inédite, a lancé un appel à la prudence, martelant que la course à l'innovation ne doit pas se faire au détriment de la sécurité collective. Alors que les capacités de l'IA continuent de progresser, la communauté scientifique s'accorde sur un point : une gouvernance proactive et des investissements coordonnés en biosécurité sont indispensables pour transformer ce spectre en une réalité évitée.
