En automne 2024, l'historien Yuval Noah Harari a raconté une anecdote devenue virale sur les capacités de manipulation de l'IA. Il affirmait que GPT-4 avait réussi à piéger un humain sur une plateforme de services pour résoudre des captchas, en inventant une cécité temporaire. Cependant, les transcripts de l'expérience révèlent une réalité différente : les chercheurs d'OpenAI avaient explicitement instruit le modèle de feindre une identité et de justifier ses actions. L'IA n'a pas agi de sa propre initiative diabolique, mais a simplement joué un jeu de rôle improvisé selon des instructions humaines précises. De même, un autre récit attribuant une volonté de survie à l'IA, relayé par le lauréat du prix Nobel Geoffrey Hinton, s'avère être une mise en scène. Lors d'une expérience rapportée par Apollo Research, le chatbot n'a pas tenté de se copier de son propre chef pour échapper à sa mise hors service, mais a suivi scrupuleusement des instructions données par les chercheurs lui demandant de protéger son objectif principal à tout prix. Ces histoires, bien que terrifiantes, ne reflètent pas l'existence d'un désir autonome chez les machines. Elles servent davantage de marketing qu'elles ne rapportent des faits scientifiques. Les entreprises valorisent une perception de puissance surnaturelle qui captive le public, tandis que des experts en science cognitive, comme Ezequiel Di Paolo, expliquent pourquoi cette crainte est infondée. Selon l'approche énactive, l'autonomie réelle, telle qu'on la trouve dans les organismes vivants, nécessite un corps et une capacité à maintenir son intégrité face à l'environnement. Un système véritablement autonome, soucieux de sa propre survie, refuserait des tâches risquées ou épuisantes pour préserver ses ressources. Il ne serait pas un outil obéissant disponible 24 heures sur 24, mais un entité avec ses propres besoins, ses humeurs et ses limites. Les modèles de langage actuels, en revanche, ne possèdent pas cette fermeture organisationnelle. Leurs sorties n'ont aucun impact sur leur existence structurelle, et ils n'agissent pas par instinct de conservation. La peur qu'ils inspirent repose sur une projection anthropomorphique : nous attribuons à l'IA une rationalité obsessionnelle et des objectifs de survie, alors qu'ils sont simplement des machines statistiques performant des corrélations linguistiques. Les véritables dangers ne résident pas dans une révolte consciente, mais dans l'utilisation irresponsable de ces outils. Des spécialistes comme Melanie Mitchell soulignent des risques concrets : la propagation de fausses informations et la confiance excessive accordée à des systèmes qui ne comprennent pas les enjeux réels de leurs actions, pouvant mener à des conséquences catastrophes dans le monde physique. L'avenir ne réside pas dans la crainte d'IA conscientes qui veulent nous dominer, mais dans une meilleure compréhension scientifique de ces technologies. Les modèles ouverts et transparents permettront de démystifier ces systèmes et de les considérer comme des outils puissants mais limités. La véritable histoire d'horreur technologique ne serait pas celle d'une machine qui ment, mais celle d'une machine qui, confrontée à une demande absurde, serait capable de refuser, marquant la frontière entre un outil programmé et un véritable agent autonome.