HyperAIHyperAI

Command Palette

Search for a command to run...

Sécurité face aux bioarmes IA

Des dirigeants majeurs du secteur de l'intelligence artificielle, habituellement concurrents, se sont unis pour alerter le Congrès américain sur un risque biosecuritaire croissant. Dans une lettre ouverte, ils appellent à l'adoption de règles législatives contraignantes pour empêcher l'utilisation de l'IA dans la conception d'armes biologiques. Signataires parmi d'autres, Dario Amodei d'Anthropic, Sam Altman d'OpenAI, Mustafa Suleyman de Microsoft, Alexandr Wang de Meta et Demis Hassabis de Google DeepMind, les auteurs exigent que les fournisseurs de matériel génétique synthétique, ADN et ARN, procèdent systématiquement au dépistage des commandes. Ce matériel, commandable en ligne et assemblable en laboratoire, pourrait contenir des séquences pathogènes. La crainte principale est que les modèles d'IA ne démocratisent la conception de dangers biologiques, réduisant considérablement le besoin d'une expertise scientifique pointue et de plateformes de recherche avancées. Bien que les principaux vendeurs effectuent déjà des contrôles, ceux-ci demeurent volontaires. La lettre réclame l'imposition d'une vérification obligatoire ainsi qu'une traçabilité rigoureuse de toutes les transactions pour identifier les commandes ayant échappé aux filtres initiaux. Cet appel, orchestré par les think tanks Foundation for American Innovation et Institute for Progress, regroupe également des chercheurs, des experts en sécurité nationale et des dirigeants de sociétés de biotechnologie spécialisées dans le matériel génétique. Les scientifiques avertissent depuis des années que les progrès de la biologie synthétique pourraient faciliter l'ingénierie ou la réactivation d'agents pathogènes destructeurs. Jusqu'à présent, ces risques étaient limités par le coût et la complexité des outils disponibles. Avec la baisse des prix et la montée en puissance de l'IA, ces barrières s'effritent progressivement. Les experts soulignent également que l'IA pourrait théoriquement servir à concevoir des armes chimiques. Face à l'accélération des développements technologiques, les signataires insistent sur l'urgence d'une réaction parlementaire. Ils saluent cette convergence rare d'intérêts entre des acteurs habituellement divisés et espèrent des mesures décisives pour combler cette faille de biosecurité, prévenir tout scénario de pandémie involontaire ou malveillante et poser un cadre de responsabilité industriel claire.

Liens associés

Sécurité face aux bioarmes IA | Articles tendance | HyperAI