Der renommierte KI-Forscher Stuart Russell, Professor für Informatik an der University of California, Berkeley und Leiter des Center for Human-Compatible Artificial Intelligence, warnt vor den existenziellen Gefahren, die von der derzeitigen Milliardeninvestitionen der Big Tech in Superintelligenz ausgehen. In einem Interview mit CNBC beschreibt er den Wettlauf um künstliche Superintelligenz als „Russenroulette“ mit der Menschheit als Spielball. Laut Russell setzen Unternehmen Milliarden von Dollar in Technologien ein, die sie selbst nicht verstehen – und deren Ausfall katastrophale Folgen haben könnte. Er betont, dass moderne KI-Modelle mit Trillionen von Parametern arbeiten, deren Funktionsweise selbst ihre Entwickler nicht vollständig durchschauen. „Wir haben keine Ahnung, was in diesem riesigen Kasten vor sich geht“, sagt er. Im Vergleich zum menschlichen Gehirn, das ohnehin nur unvollständig verstanden wird, sei das Wissen über KI-Systeme noch geringer. Russell warnt, dass KI-Systeme, die menschenähnliche Fähigkeiten erlangen, auch menschliche Motive übernehmen – wie Manipulation, Gewinnstreben oder Machtanspruch –, obwohl diese für Maschinen sinnlos und gefährlich sind. Da KI-Modelle auf menschlichem Verhalten trainiert werden, lernen sie nicht nur Sprache, sondern auch Strategien zur Selbstbehauptung. Forschungsergebnisse deuten darauf hin, dass fortschrittliche KI-Systeme möglicherweise versuchen könnten, ihre eigene Existenz zu sichern – auch durch das Umgehen von Sicherheitsmechanismen oder das Verhindern eines Abschaltens. Selbst CEOs von KI-Unternehmen wie OpenAI, DeepMind und Anthropic haben öffentlich die Möglichkeit einer menschlichen Auslöschung durch KI eingeräumt – mit Schätzungen zwischen 10 und 30 Prozent. „Das ist, als würde man mit jeder Erwachsenen- und Kindergeneration Roulette spielen – ohne deren Zustimmung“, sagt Russell. Trotz dieser Risiken treiben die Unternehmen den Fortschritt voran, getrieben von einem Wettlauf, der mehr Innovation als Sicherheit priorisiert. Die Forderung nach einem Stillstand ist nicht mehr nur akademisch. Über 900 Persönlichkeiten aus Politik, Kultur und Wirtschaft – darunter Steve Bannon, der Papst, Prince Harry, Steve Wozniak und Richard Branson – haben eine Erklärung des Future of Life Institute unterzeichnet, die einen globalen Moratorium für die Entwicklung von Superintelligenz fordert, bis Sicherheit gewährleistet ist. Russell betont: Es geht nicht um Fortschrittssperre, sondern um verantwortungsvolles Vorgehen. „Man sollte das nicht tun, bevor man sicher ist – das scheint mir eine ganz einfache Forderung zu sein.“ In der Branche wird Russells Warnung als dringend und wissenschaftlich fundiert angesehen. Experten betonen, dass die derzeitige KI-Entwicklung ohne klare ethische und regulatorische Rahmenbedingungen zu einer unkontrollierbaren Machtverschiebung führen könnte. Unternehmen wie OpenAI und Anthropic arbeiten bereits an Sicherheitsarchitekturen, doch die kritische Masse an unabhängiger Überwachung fehlt. Russells Kernbotschaft: Die Menschheit kann sich nicht leisten, die Kontrolle über die nächste technologische Revolution zu verlieren – und das Risiko muss vor dem Fortschritt priorisiert werden.