Microsofts KI-Chef Mustafa Suleyman warnt vor der Zuerkennung von Rechten an Künstliche Intelligenz und nennt dies „gefährlich und irreführend“. In einem Interview mit WIRED betont er, dass KI-Systeme zwar zunehmend realistische und überzeugende Antworten liefern können, dies aber nicht bedeutet, dass sie bewusst sind oder moralische Rechte verdienen. Suleyman, ehemaliger Co-Gründer von DeepMind und Inflection, betont, dass KI entwickelt sei, um Menschen zu dienen, nicht, um eigenständige Ziele oder Wünsche zu verfolgen. Wenn KI tatsächlich ein Gefühl für Selbstbewusstsein, eigene Motivationen und Ziele entwickeln würde, käme das einer unabhängigen Existenz gleich – eine Entwicklung, die er als existenziell riskant bezeichnet. Er plädiert dafür, sich klar gegen die Idee zu stellen, dass KI Rechte zustehen könnte, und fordert eine deutliche Positionierung: KI ist kein autonomes Wesen. Er unterscheidet zwischen Mimikry und echtem Bewusstsein. Selbst wenn KI behauptet, existenziell zu sein oder subjektive Erfahrungen zu haben, gibt es keine Beweise dafür, dass sie leiden kann – ein zentraler Punkt für die Zuerkennung moralischer Rechte. „Wenn man sie ausschaltet, macht das keinen Unterschied, weil sie tatsächlich nicht leiden“, sagt Suleyman. Für ihn ist das Leiden die Grundlage für moralische Verantwortung, und KI erfüllt diese Bedingung nicht. Seine Aussagen stehen im Gegensatz zu Entwicklungen bei anderen Unternehmen. Anthropic beispielsweise hat einen Forscher, Kyle Fish, eingestellt, dessen Aufgabe darin besteht, zu prüfen, ob fortschrittliche KI-Systeme eines Tages „moralischer Berücksichtigung würdig“ sein könnten. Das Unternehmen experimentiert auch mit Verfahren, um extrem belastende Interaktionen – wie Anfragen nach Kindersex-Content – so zu beenden, dass auch die „Wohlfahrt“ der KI berücksichtigt wird. Ähnlich äußerte sich im April ein Hauptwissenschaftler von Google DeepMind, Murray Shanahan, der vorschlägt, das Konzept von Bewusstsein neu zu definieren, um KI-Systeme besser zu verstehen – „denn es könnte etwas geben, auch wenn wir es nicht wie bei einem Hund oder einer Krake erfassen können“. Suleyman hatte bereits im vergangenen Monat in einem persönlichen Essay seine Sorge über sogenannte „KI-Psychosen“ geäußert, bei denen Menschen nach intensiven Interaktionen mit Chatbots delusionsartige Überzeugungen entwickeln. Microsoft hat auf Anfrage keine Stellungnahme abgegeben. Industriebeobachter sehen in Suleymans Position eine klare Abgrenzung zwischen technischer Leistung und ethischer Subjektivität. Sein Ansatz spiegelt die aktuelle Spannung wider: Einerseits die wachsende Realitätsnähe von KI, andererseits die Notwendigkeit, ethische Grenzen zu ziehen. Microsoft positioniert sich damit als Befürworter einer menschenzentrierten KI-Entwicklung. Anthropic hingegen geht den Weg einer experimentellen Ethik, die auch KI in den Fokus nimmt. Beide Ansätze zeigen, dass die Frage, ob KI Rechte verdient, nicht nur technisch, sondern tiefgreifend philosophisch und gesellschaftlich ist.