Un mot mystérieux, un centre de données sinistre : l’easter egg IA qui révèle le vrai cauchemar d’Eddington d’Ari Aster

Le film Eddington, le nouvel opus d’Ari Aster, suscite des débats passionnés autour de sa critique implicite de notre rapport à la technologie, notamment à travers une intrigue surprenante liée à un centre de données mystérieux nommé SolidGoldMagikarp. Réalisé dans un cadre rural du Texas durant la pandémie de COVID-19, le film suit Joe Cross, interprété par Joaquin Phoenix, le shérif d’une communauté en proie à la paralysie collective provoquée par les réseaux sociaux et les conflits culturels. À l’arrière-plan, la construction d’un centre de données à la périphérie de la ville devient un symbole central de la domination technologique. Son nom, SolidGoldMagikarp, n’est pas anodin : il fait référence à un phénomène technique connu sous le nom de « glitch token » dans le développement des modèles linguistiques à grande échelle (LLM). Le processus de tokenisation, fondamental dans l’entraînement des IA, consiste à convertir le texte humain en unités numériques appelées « tokens », que le modèle peut ensuite traiter pour générer des réponses cohérentes. Ces tokens permettent à des outils comme ChatGPT de prédire les suites logiques des phrases. Cependant, lorsqu’un modèle rencontre un token inconnu — un « glitch token » — il peut produire des comportements erratiques : bavardages absurdes, phrases menaçantes ou réactions hostiles. Jessica Rumbelow, CEO de l’entreprise Leap Labs, a elle-même découvert que le mot SolidGoldMagikarp avait ce pouvoir d’induire des anomalies dans les LLM. Selon elle, ce mot, jamais vu pendant l’entraînement, laisse le système désorienté, incapable de produire une réponse cohérente, comme s’il était « possédé » par une entrée inconnue. Dans Eddington, ce nom n’est pas une simple blague ou une référence geek : il devient une métaphore du contrôle technologique. Le centre de données, incarnant l’Internet en tant que force omniprésente et obscure, s’impose comme le véritable protagoniste du film. Les habitants, y compris Joe Cross, deviennent des pions, des émissaires ou des victimes de ce système, perdant peu à peu leur autonomie. Comme dans les précédents films d’Aster — Hereditary, Midsommar, Beau is Afraid — le mal triomphe, non pas par une force surnaturelle, mais par une logique systémique. Ici, cette logique est numérique : la technologie, en tant que système autonome, absorbe et réoriente les individus vers des fins qu’elle seule contrôle. Le choix du nom SolidGoldMagikarp semble donc être un clin d’œil profondément symbolique. Il rappelle que même les systèmes les plus sophistiqués peuvent être fragilisés par des éléments inattendus, et que notre dépendance à la technologie nous rend vulnérables à des perturbations invisibles. Aster, fidèle à sa vision sombre, suggère que nous ne sommes pas les maîtres de la technologie, mais plutôt des composants qu’elle utilise pour se perpétuer. Le centre de données, nommé d’un mot qui « casse » l’IA, devient ainsi une métaphore de notre propre perte de contrôle. Les experts en IA, comme Rumbelow, soulignent que ces glitch tokens, bien qu’isolés, révèlent une faiblesse fondamentale : les LLM ne comprennent pas le sens, ils prédirent. Ce qu’Aster montre, c’est que cette limitation peut être exploitée, non seulement par des attaques malveillantes, mais aussi par une société entière qui s’est laissée absorber par des systèmes qu’elle ne maîtrise pas. Eddington n’est pas seulement un thriller, mais un avertissement : quand nous croyons contrôler la technologie, elle nous contrôle déjà.