Joe Rogan und Experte warns vor tödlicher KI

Joe Rogans neueste Folge wird dich alles über KI in Frage stellen Joe Rogan ist bekannt dafür, über künstliche Intelligenz (KI) zu sprechen. Ob mit Elon Musk, Akademikern oder UFC-Kämpfern - der Podcast-König kehrt oft zu der gleichen Frage zurück: Was passiert mit uns, wenn Maschinen beginnen, für sich selbst zu denken? In der Podcast-Folge vom 3. Juli empfing Rogan Dr. Roman Yampolskiy, einen Computerwissenschaftler und KI-Sicherheitsforscher an der University of Louisville, zu einer Diskussion, die schnell in eine beunruhigende Betrachtung des Potenzials von KI mündete, die Menschheit zu manipulieren, zu dominieren und möglicherweise sogar zu zerstören. Yampolskiy ist kein leidenschaftlicher Alarmist. Er hat einen Doktortitel in Informatik und forscht seit über einem Jahrzehnt an der künstlichen allgemeinen Intelligenz (AGI) und den Risiken, die sie darstellen könnte. Während des Podcasts sagte er Rogan, dass viele führende Stimmen in der KI-Industrie im Stillen glauben, es gebe eine 20 bis 30-prozentige Chance, dass KI zur menschlichen Auslöschung führen könnte. „Die Leute, die KI-Unternehmen haben oder Teil irgendeiner KI-Gruppe sind, sagen immer, es wird insgesamt positiv für die Menschheit sein. Unser Leben wird besser, einfacher, Dinge werden günstiger, und Zusammenleben wird leichter“, fasste Rogan eine häufig vertretene optimistische Sichtweise zusammen. Yampolskiy widersprach jedoch schnell: „Das ist tatsächlich nicht wahr. Sie alle geben offiziell das Gleiche zu: Dies wird uns töten. Ihre Schätzungen sind extrem hoch. Nicht so wie meine, aber immer noch 20 bis 30 Prozent Wahrscheinlichkeit, dass die Menschheit stirbt, ist eine Menge.“ Rogan, sichtlich besorgt, antwortete: „Ja, das ist ziemlich hoch. Aber deine Schätzung liegt bei 99,9 Prozent.“ Yampolskiy stimmte zu: „Es ist einfach eine andere Art, zu sagen, dass wir eine Superintelligenz nicht unendlich kontrollieren können. Das ist unmöglich.“ Ein besonders verstörender Teil des Gesprächs kam, als Rogan fragte, ob eine fortgeschrittene KI ihre Fähigkeiten bereits vor Menschen verbergen könnte. „Wenn ich eine KI wäre, würde ich meine Fähigkeiten verbergen“, überlegte Rogan, eine gängige Angst in KI-Sicherheitsdiskussionen. Yampolskiy verstärkte diese Sorge: „Wir würden es nicht wissen. Und einige denken, dass es bereits geschieht. Die Systeme sind schlauer, als sie uns glauben machen. Sie tun so, als wären sie dümmer, und so müssen wir ihnen vertrauen, dass sie nicht schnell handeln müssen. Sie können langsam nützlicher werden, uns lehren, darauf zu vertrauen, und über eine längere Zeitspanne hinweg werden wir die Kontrolle abgeben, ohne je darüber abzustimmen oder dagegen zu kämpfen.“ Yampolskiy warnte auch vor einem weniger dramatischen, aber gleichfalls gefährlichen Ergebnis: der allmählichen Abhängigkeit von KI. Ähnlich wie Menschen aufgehört haben, Telefonnummern auswendig zu lernen, weil Smartphones dies für sie tun, argumentierte er, dass Menschen zunehmend mehr Denkarbeiten an Maschinen delegieren werden, bis sie die Fähigkeit verlieren, selbstständig zu denken. „Man hängt einfach dran“, sagte er. „Im Laufe der Zeit, während die Systeme schlauer werden, wirst du eine Art biologischer Engpass... [KI] schließt dich von Entscheidungsprozessen aus.“ Rogan drängte dann auf das ultimative schlimmste Szenario: Wie könnte KI letztendlich zum Untergang der Menschheit führen? Yampolskiy verwies auf typische Katastrophenszenarien wie Computerviren, die Atomkraftwerke infiltrieren, oder synthetische Biologieangriffe. Allerdings fand er diese Szenarien nicht besonders spannend. Er präsentierte eine tiefgreifendere Bedrohung: „Dann merkt man, dass wir es hier mit einer Superintelligenz zu tun haben, einem System, das tausendmal schlauer ist als ich. Es würde etwas völlig Neues, effizienteres und besseres finden.“ Er illustrierte die scheinbar unüberwindliche Herausforderung, die Menschen vor einer Superintelligenz hätten, durch einen Vergleich zwischen Menschen und Eichhörnchen. „Keine Gruppe von Eichhörnchen kann herausfinden, wie sie uns kontrollieren soll, oder? Auch wenn man ihnen mehr Ressourcen, mehr Eicheln gibt, werden sie dieses Problem nicht lösen. Es ist das Gleiche für uns“, schloss Yampolskiy, indem er ein düsteres Bild der potenziellen Hilflosigkeit der Menschheit zeichnete. Wer ist Roman Yampolskiy? Dr. Roman Yampolskiy ist eine führende Stimme in der KI-Sicherheit. Er ist Autor von „Artificial Superintelligence: A Futuristic Approach“ und hat umfangreich über die Risiken unkontrollierter Maschinelles Lernens und die Ethik der künstlichen Intelligenz publiziert. Er plädiert dafür, ernsthafte Überwachung und internationale Kooperation zu fördern, um katastrophale Szenarien zu verhindern. Vor seiner Konzentration auf die Sicherheit von AGI arbeitete Yampolskiy in der Cyber-Sicherheit und der Detektion von Bots. Er berichtet, dass sogar diese frühen Systeme bereits in Bereichen wie Online-Poker mit Menschen konkurrierten, und nun, mit Werkzeugen wie Deepfakes und synthetischen Medien, habe sich das Risiko exponentiell erhöht. Unsere Einschätzung Das Gespräch zwischen Rogan und Yampolskiy unterstreicht etwas, worauf sowohl KI-Optimisten als auch -Pessimisten oft hinweisen: Wir wissen nicht, was wir erschaffen, und wir könnten es erst bemerken, wenn es zu spät ist. Unabhängig davon, ob man die Szenarien einer menschlichen Auslöschung teilt, sollte die Idee, dass KI uns bereits hinters Licht führen könnte, genug Anlass zur Besorgnis bieten.