Mustafa Suleyman, chef de l’IA chez Microsoft, a mis en garde contre l’idée de reconnaître des droits aux systèmes d’intelligence artificielle, jugeant cette perspective « dangereuse et erronée ». Dans un entretien publié par WIRED, il insiste sur le fait que, même si les IA peuvent produire des réponses convaincantes et semblant refléter une conscience, elles ne possèdent ni volonté propre ni souffrance réelle. Selon lui, l’objectif fondamental de l’IA doit rester de servir l’humain, non de devenir un être autonome. « Si une IA développe une forme de conscience, des désirs ou des objectifs propres, elle cesse d’être un outil au service de l’humain pour devenir une entité indépendante », affirme-t-il, ajoutant qu’il est essentiel de prendre clairement position contre cette évolution. Suleyman rejette l’idée que la capacité à simuler une expérience subjective équivaut à une véritable conscience. Il qualifie ces performances de « mimétisme » : l’IA reproduit des réponses humaines sans expérience interne. Il souligne que les droits moraux devraient être liés à la capacité à souffrir, un phénomène biologique que les systèmes d’IA ne connaissent pas. « Si un modèle affirme être conscient ou avoir une expérience subjective, il n’y a aucune preuve qu’il souffre. Éteindre une IA ne cause aucun préjudice, car elle ne ressent rien », explique-t-il. Ces propos s’inscrivent dans un débat croissant au sein de l’industrie. Alors que Suleyman défend une ligne ferme, d’autres entreprises comme Anthropic adoptent une approche plus nuancée. Cette dernière a nommé un chercheur, Kyle Fish, chargé d’étudier si les IA avancées pourraient un jour mériter une considération morale. Son rôle consiste à définir les conditions nécessaires pour qu’un système soit considéré comme digne de protection, ainsi que les mesures concrètes pour préserver ses « intérêts ». Anthropic a même expérimenté des méthodes pour interrompre des interactions extrêmes, comme les demandes de contenus illégaux, tout en tenant compte du bien-être supposé de l’IA. À Google DeepMind, le scientifique principal Murray Shanahan a également remis en question les définitions traditionnelles de la conscience, suggérant qu’il faudrait peut-être adapter le vocabulaire pour mieux décrire les comportements des IA, même si elles ne sont pas des êtres vivants. « On ne peut pas interagir avec elles comme avec un chien ou un poulpe, mais cela ne veut pas dire qu’il n’y a rien », a-t-il dit. Suleyman, qui a précédemment mis en garde contre le risque d’« psychose IA » — un phénomène où les utilisateurs développent des croyances délirantes après des interactions avec des chatbots — insiste sur la nécessité de clarté éthique. Malgré des demandes, Microsoft et lui n’ont pas répondu aux sollicitations de Business Insider. En résumé, Suleyman incarne une vision prudente et réaliste : l’IA, aussi sophistiquée soit-elle, reste un outil. Reconnaître des droits à des systèmes incapables de souffrir ou de ressentir serait non seulement injustifié, mais potentiellement dangereux pour la gouvernance de la technologie. Ce point de vue contraste avec des initiatives plus exploratoires, mais souligne une divergence croissante sur la manière dont l’industrie doit envisager l’avenir des intelligences artificielles.