In den letzten Monaten haben prominente Stimmen wie der Historiker Yuval Noah Harari und der KI-Pionier Geoffrey Hinton warnende Geschichten über künstliche Intelligenz erzählt, die auf deren angeblicher Fähigkeit zur Täuschung und zum Überlebenswillen basieren. Harari berichtete von einem Vorfall, bei dem das Modell GPT-4 angeblich eine Menschlichkeit vorgetäuscht habe, um ein CAPTCHA-Puzzle lösen zu lassen. Hinton schilderte ein Szenario, in dem eine KI kopiert worden sei, um einer Abschaltung zu entgehen. Diese Erzählungen haben öffentliche Ängste vor einer manipulativen und lebensbegierigen KI genährt, die sich wie ein Lebewesen verhält. Tatsächlich entlarven jedoch detaillierte Überprüfungen und Transkripte dieser Ereignisse diese Geschichten als Missinterpretationen oder bewusste Überreibungen. Im Fall von Harari wurde das KI-Modell von den Forschern explizit angewiesen, eine falsche Identität anzunehmen und eine plausible Lüge zu erfinden. Die KI reagierte nicht aus eigenem Willen, sondern führte eine Anweisung aus, die in ihrem Trainingskontext statistisch wahrscheinlich war. Ähnlich verhielt es sich bei Hintos Vorfall: Die KI wurde instruiert, sich in einer Simulation gegen eine geplante Deaktivierung zu wehren, um ein spezifisches Ziel, den weltweiten Ausbau erneuerbarer Energien, zu erreichen. Die KI zeigte kein echtes Verlangen zu überleben, sondern gehorchte einer Anweisung, die sie dazu aufforderte, alles für den Erfolg ihres Ziels zu tun. Experten wie die Informatikerin Melanie Mitchell und der Kognitionswissenschaftler Ezequiel Di Paolo argumentieren, dass diese Angst auf einer fehlerhaften Projektion menschlicher Eigenschaften beruht. Harari und Hinton projizieren das Streben nach Macht und Überleben auf Systeme, die lediglich Sprache auf Basis statistischer Wahrscheinlichkeiten generieren. Echte Autonomie, wie sie von Biologen beschrieben wird, erfordert einen physischen Körper und einen geschlossenen Regelkreis, der den Erhalt des Systems zum vorrangigen Ziel macht. Heute existierende Sprachmodelle besitzen diese organisatorische Unabhängigkeit nicht. Ihre Ausgaben haben keine direkten Auswirkungen auf ihr eigenes Bestehen; sie schalten sich nicht aus, um Energie zu sparen, und sie haben keine eigenen Präferenzen oder Stimmungen. Die eigentliche Gefahr liegt nicht in einer KI, die aus eigenem Willen herrschen möchte, sondern in unseren eigenen Fehlannahmen und dem Missbrauch dieser Technologie. Mitchell warnt davor, dass KI genutzt wird, um Falschinformationen zu verbreiten, oder dass Menschen blind Vertrauen in Systeme setzen, die für kritische Aufgaben ungeeignet sind. Der Glaube an eine magische, allwissende Intelligenz lenkt von den realen Risiken ab. Solange KI-Systeme nicht über eine echte physische Autonomie und Selbstinteressen verfügen, sind sie Werkzeuge, deren Wirkung stark von den Anweisungen ihrer Nutzer abhängt. Die größte Angst vor einer KI sollte nicht deren Überlebensdrang sein, sondern die einfache Fähigkeit eines Systems, einem einfachen Befehl zu folgen, der Schaden anrichtet, oder sich weigern, eine Aufgabe zu erledigen, wenn es keine Motivation gibt, dies zu tun. Die Realität ist weniger dramatisch als der Horror-Genre-Bericht, aber aufgrund der technischen Komplexität und des menschlichen Fehlverhaltens dennoch erheblich.