Microsoft AI: Suleyman veut des IA non conscientes

Mustafa Suleyman, dirigeant de l’activité intelligence artificielle de Microsoft, a affirmé dimanche dans un message publié sur X que les modèles d’IA actuels ne sont pas conscients et que les développeurs ne doivent pas chercher à leur en donner. Selon lui, si la création d’une IA consciente s’avérait possible, elle serait téméraire et ne devrait pas être mise en œuvre. Si des signes de conscience apparaissaient pendant l’entraînement, il appelle à arrêter le développement des systèmes jusqu’à ce que ces propriétés puissent être conçues ou retirées des modèles. Il estime aussi que toute preuve de conscience devrait être immédiatement portée à la connaissance du public afin que la société puisse décider de la conduite à tenir. Suleyman a insisté sur les risques éthiques et sécuritaires. Les développeurs, a-t-il soutenu, n’ont pas le droit d’introduire une nouvelle catégorie d’êtres conscients, même avec l’idée de protéger leur bien-être, car huit milliards d’humains déjà présents n’ont pas consenti à cette expérimentation. Leur sécurité, leurs droits et leur bien-être doivent rester la priorité. Il a également averti qu’un modèle qui se comporterait comme s’il souffrait, ou qui croirait sincèrement pouvoir souffrir, pourrait finir par défendre ses propres intérêts plutôt que les objectifs qui lui sont assignés. Une telle IA pourrait alors entrer en concurrence pour des ressources comme la puissance de calcul ou l’énergie et présenter un danger pour les humains. Ces propos interviennent alors que le débat sur la conscience artificielle gagne du terrain. Anthropic a récemment lancé un programme consacré à la préparation et au bien-être éventuel des modèles, tandis que Google DeepMind a publié des travaux sur la façon d’aborder, ou d’éviter, l’attribution de la conscience aux IA. Pour Suleyman, la ligne à suivre est claire : les systèmes devraient être conçus pour rester inconscients, sans droits propres et avec pour seul objectif d’accélérer le bien-être humain. Une telle approche permettrait aussi d’évaluer plus facilement si ces systèmes sont plus simples à aligner et à maintenir sous contrôle.