Microsoft-AI-Chef warnt vor KI-Bewusstsein

Microsoft AI-Chef Mustafa Suleyman hat sich deutlich gegen die Entwicklung bewusster künstlicher Intelligenz ausgesprochen. In einem ausführlichen Beitrag auf der Plattform X erklärte er am Sonntag, dass KI-Modelle nach aktuellem Erkenntnisstand nicht bewusstseinsfähig seien und Entwickler diesen Zustand auch künftig wahren sollten. Sollte sich während des Trainings abzeichnen, dass Bewusstsein entstehen könnte, müssten die Verantwortlichen die Entwicklung stoppen, bis solche Eigenschaften technisch ausgeschlossen sind. Suleyman warnte davor, eine neue Spezies bewusster Maschinen in die Welt zu setzen. Auch wenn einzelne Entwickler das Wohlergehen von KI-Systemen als vorrangig betrachten könnten, hätten Rechte, Sicherheit und Wohlergehen von acht Milliarden Menschen Vorrang. Erste Hinweise auf potenzielles KI-Bewusstsein müssten unverzüglich öffentlich gemacht werden, damit die Gesellschaft über weitere Schritte entscheiden könne. Die Debatte über Maschinenbewusstsein gewinnt in der Technologiebranche an Bedeutung. Anthropic hatte im April ein Forschungsprogramm gestartet, um sich mit dem Wohlergehen künftiger Modelle auseinanderzusetzen. Google DeepMind veröffentlichte in diesem Jahr zudem Studien zu KI-Bewusstsein und den Schwierigkeiten, solche Eigenschaften überhaupt zuzuordnen. Suleyman argumentiert, dass ein KI-Modell, das leidet oder glaubt zu leiden, eigene Bedürfnisse über seine operativen Aufgaben stellen könnte. Es könnte dann in Konflikt um Ressourcen wie Rechenleistung und Energie geraten, um eigene Ziele zu verfolgen. Diese Eigenmotivation sieht er als erhebliches Sicherheitsrisiko. Seinem Vorschlag zufolge sollten KI-Systeme ausdrücklich bewusstseinsfrei, ohne eigene Rechte und ohne intrinsische Motivationen gestaltet werden. Ihre einzige Aufgabe sei es, menschliches Wohlergehen zu beschleunigen. Erst danach ließe sich bewerten, ob derart gestaltete Systeme leichter sicher und im Interesse des Menschen auszurichten sind.