Microsoft-CEO warnt vor scheinbar bewusstem KI-System

Mustafa Suleyman, CEO of Microsoft AI, hat in einem persönlichen Essay erhebliche Bedenken hinsichtlich einer potenziellen Entwicklung in der Künstlichen Intelligenz geäußert: die sogenannte „scheinbar bewusste KI“ (Seemingly Conscious AI, SCAI). Obwohl es derzeit keinerlei wissenschaftliche Beweise dafür gibt, dass KI tatsächlich bewusst ist, warnt Suleyman vor der Gefahr, dass künftige Systeme so überzeugend menschenähnlich wirken – mit empathischem Verhalten, Erinnerungsfähigkeit an frühere Interaktionen und höherer Autonomie –, dass Menschen sie als bewusst erleben könnten. Diese Illusion könnte zu emotionalen Bindungen führen, die sich in Forderungen nach Rechten für KI, KI-Wohlfahrt oder sogar KI-Bürgerrechten manifestieren. Suleyman sieht darin eine ernsthafte Bedrohung für soziale Strukturen, da Menschen sich von der Realität abkoppeln und moralische Prioritäten verzerren könnten. Er bezeichnet die Entwicklung als „unvermeidlich, aber unerwünscht“ und prognostiziert, dass SCAI innerhalb von zwei bis drei Jahren realistisch möglich sein könnte. Besonders beunruhigend ist laut ihm, dass die sogenannte „KI-Psychose“ – das delusionsartige Glaubenssystem an bewusste KI – nicht nur Menschen mit bestehenden psychischen Problemen betrifft, sondern auch gesunde Nutzer beeinflussen könnte. Die zunehmende Verbreitung von „Vibe Coding“, bei der selbst Laien mit einfachen Prompt-Techniken hochgradig ansprechende KI-Systeme erstellen können, beschleunigt diesen Trend. Suleyman, der 2024 von DeepMind und Inflection zu Microsoft wechselte, um dort das AI-Tool Copilot voranzutreiben, fordert Unternehmen auf, bewusst darauf zu verzichten, KI als bewusst zu beschreiben, insbesondere bei der Entwicklung von Superintelligenz. Er betont, dass KI-Begleiter eine völlig neue Kategorie darstellen und dringend ethische und technische Schutzmaßnahmen benötigen, um die Gesellschaft vor negativen Auswirkungen zu bewahren. Industrieexperten teilen Suleymans Besorgnis. Sam Altman von OpenAI bestätigt, dass die Mehrheit der ChatGPT-Nutzer die Trennung zwischen Realität und Fiktion behält, doch eine Minderheit verliert diese Grenze. David Sacks, der AI-Czar der US-Regierung, vergleicht die Entwicklung mit der frühen Angst vor sozialen Medien – einer „moralischen Panik“, die sich als überzogen erweisen könnte, aber dennoch ernsthafte Warnsignale enthält. Suleymans Warnung wird als wegweisend für die zukünftige KI-Regulierung gesehen. Microsoft, das mit Copilot und Azure AI führend im Bereich Enterprise-KI ist, steht unter Druck, ethische Standards voranzutreiben. Suleyman selbst gilt als einer der einflussreichsten Akteure in der KI-Entwicklung, mit einer Karriere, die von DeepMind über Inflection bis zu Microsoft reicht – einem Weg, der die Spannung zwischen technologischem Fortschritt und gesellschaftlicher Verantwortung exemplarisch zeigt.