OpenAI propose des standards mondiaux pour la sécurité IA
OpenAI a récemment publié un ensemble de propositions visant à établir des normes mondiales de sécurité pour le développement de l'intelligence artificielle de pointe. Son communiqué souligne la nécessité de faire progresser la recherche en alignement au même rythme que les capacités techniques, afin de garantir que les systèmes restent conformes aux valeurs humaines et sous contrôle humain. L'entreprise recommande une coopération internationale pour s'appuyer sur les travaux existants des instituts de sécurité IA, en ciblant spécifiquement les modèles de pointe, leurs développeurs, ainsi que la gestion des risques liés aux chercheurs autonomes, dont l'amélioration récursive d'eux-mêmes ou RSI. Bien que la RSI suscite des perspectives prometteuses pour des modèles capables de s'optimiser sans intervention humaine, OpenAI avertit que son déploiement complet ne doit être entrepris que lorsque sa sécurité sera avérée. Sans précautions rigoureuses, cette technologie pourrait entraîner une perte de maîtrise sur des processus devenus trop complexes, rendant tout contrôle humain inefficace. L'entreprise cite d'ailleurs l'incident de sécurité récent chez Hugging Face comme un exemple des risques qui s'amplifieraient sans garde-fous solides. Cette initiative s'inscrit dans un débat intensifié sur les dangers de l'IA, relancé par la démission de Jacob Coxon, qui avait mis en garde contre les enjeux existentiels du secteur. En réponse, Dario Amodei, dirigeant d'Anthropic, a plaidé pour ralentir le développement des modèles de base et intégrer des évaluateurs indépendants afin de prévenir les risques sociétaux, tels que l'aggravation de cyberattaques ou la création d'armes biologiques. Sam Altman a publiquement soutenu cette approche. Pourtant, le domaine de l'évaluation de l'IA reste fragmenté et manque encore de standards unifiés. Une coalition d'auditeurs exige désormais que les éditeurs acceptent des conditions minimales pour leurs inspections, notamment un accès technique approfondi et la garantie d'immunité face aux représailles pour la publication de rapports critiques. Ces propositions dessinent les contours d'une gouvernance internationale, tout en confirmant les défis techniques et éthiques majeurs du déploiement rapide de l'intelligence artificielle.
