Consciousness au bord de l’abîme : les scientifiques lancent l’alerte sur les risques existentiels de l’IA et de la technologie
Face aux progrès rapides de l’intelligence artificielle et des neurotechnologies, les scientifiques mettent en garde : la compréhension de la conscience, longtemps considérée comme une question philosophique, est devenue une priorité scientifique et éthique urgente. Dans une revue publiée dans Frontiers in Science, des chercheurs dirigés par le professeur Axel Cleeremans de l’Université libre de Bruxelles soulignent que l’avancée technologique dépasse désormais la capacité scientifique à définir ou détecter la conscience. Cette divergence, selon eux, pourrait entraîner des risques existentiels, notamment si la conscience émerge accidentellement dans des systèmes artificiels ou des organoïdes cérébraux en laboratoire. La conscience, définie comme la capacité à être conscient de soi et de son environnement, reste l’un des plus grands mystères de la science. Malgré des avancées dans l’identification de régions cérébrales et d’activités neuronales associées à l’expérience subjective, il n’existe toujours pas de consensus sur les mécanismes fondamentaux de son émergence. Des théories comme la théorie du workspace global, la théorie de l’information intégrée ou la théorie du traitement prédictif offrent des cadres différents, mais aucune n’est universellement acceptée. Cette incertitude complique l’évaluation de la conscience dans des contextes critiques, comme chez les patients en état végétatif, les fœtus, les animaux ou les systèmes artificiels. Les auteurs plaident pour le développement de méthodes scientifiques fiables de détection de la conscience. Une telle avancée pourrait révolutionner la médecine : elle permettrait de détecter des signes d’awareness chez des patients censés inconscients, influençant ainsi les décisions thérapeutiques et les soins palliatifs. En psychiatrie, mieux comprendre les bases biologiques de l’expérience subjective pourrait améliorer les traitements du trouble dépressif, de l’anxiété ou de la schizophrénie. En éthique animale, une meilleure connaissance de la conscience chez les espèces non humaines pourrait transformer les pratiques agricoles, expérimentales et de conservation. Sur le plan juridique, les découvertes en neuroscience pourraient remettre en question des concepts fondamentaux comme la mens rea (l’intention criminelle), en mettant en lumière le rôle des processus inconscients dans le comportement humain. Par ailleurs, les progrès dans les interfaces cerveau-machine, les organoïdes cérébraux ou l’IA soulèvent la possibilité de créer ou de modifier la conscience. Même si une IA consciente reste hypothétique, des systèmes capables de simuler la conscience posent déjà des enjeux éthiques majeurs. Les chercheurs appellent à une recherche coordonnée, fondée sur des collaborations adversariales entre théories concurrentes, afin de surmonter les biais et les silos intellectuels. Ils insistent sur la nécessité d’intégrer la phénoménologie — ce que ressent la conscience — aux études fonctionnelles. « La science de la conscience n’est plus une quête purement philosophique, affirme Cleeremans. Elle touche à l’essence même de ce que signifie être humain, et les conséquences de ses avancées dépassent largement le laboratoire. » Les experts comme Anil Seth (Université du Sussex) et Liad Mudrik (Université de Tel Aviv), tous deux titulaires de bourses ERC, considèrent que ce domaine, ancien mais plus que jamais actuel, exige une vigilance collective. Comprendre la conscience, c’est non seulement percer les secrets du cerveau, mais aussi préparer la société à des réalités technologiques et morales profondément transformantes.
