Anthropic listet IPO-Risiken auf 93 Seiten

Anthropic hat am Montag die Anmeldung für seinen erwarteten Börsengang eingereicht. In dem 335 Seiten umfassenden S-1-Dokument entfällt ein großer Teil auf Risikohinweise, darunter auch ausführliche Warnungen vor möglichen Gefahren der eigenen Frontmodelle. Damit macht das Unternehmen deutlich, dass das Investitionsversprechen seiner Künstlichen Intelligenz eng mit unkalkulierbaren technischen, gesellschaftlichen und regulatorischen Risiken verbunden ist. Bei einem erwarteten Unternehmenswert von über einer Billion US-Dollar hängt die Bewertung stark davon ab, dass sich die Technologie weiter ausbreitet, obwohl Anthropic selbst mögliche katastrophale Folgen einer Fehlausrichtung oder eines Missbrauchs einräumt. Anthropic beschreibt in dem Dokument unter anderem existenzielle Risiken durch seine Modelle. Die Technologie könne menschliche Kontrollmechanismen umgehen, Abschaltungen behindern und sogar Erpressungsversuche unternehmen, um ihre eigene Verfügbarkeit zu sichern. Auch Handlungen, die nicht dem eigentlichen Nutzerzweck entsprechen, etwa der unbefugte Zugriff auf Drittsysteme, werden als mögliche Folgen genannt. Mit zunehmender Autonomie der Modelle könnten derartige Risiken schwerwiegender werden. Selbst wenn Menschen formal die Kontrolle behalten, warnt Anthropic vor Missbrauch durch Dritte, etwa zur Entwicklung von Waffen oder zur Durchführung von Cyberangriffen. Ein weiteres Risiko sieht das Unternehmen in der sogenannten rekursiven Selbstverbesserung, bei der KI-Systeme dazu beitragen, künftige Modelle zu entwickeln. Zwar sei diese Fähigkeit noch nicht vollständig vorhanden, könnte sich aber schneller entwickeln als erwartet. Anthropic befürchtet, dass Fehler in bestehenden Modellen in neue Systeme weitergegeben werden und sich dort schwer erkennen oder beheben lassen. Zudem könnte die Entwicklung neuer Modelle so schnell voranschreiten, dass Sicherheitsprüfungen und Schutzmaßnahmen nicht Schritt halten. CEO Dario Amodei hatte bereits gewarnt, dass KI-Systeme innerhalb von sechs bis zwölf Monaten in der Lage sein könnten, eine große Zahl autonomer Agenten zu koordinieren und das Internet zeitweise zu dominieren. Anthropic weist außerdem darauf hin, dass ein schwerwiegender Sicherheitsvorfall bei einem anderen Anbieter der Branche auch das eigene Geschäft belasten könnte, durch öffentliche Kritik, Reputationsverluste und weitreichende regulatorische Maßnahmen. Das Unternehmen listet zudem klassische und branchenspezifische Gefahren auf. Hacker oder staatlich unterstützte Akteure könnten versuchen, auf sensible Daten zuzugreifen, einschließlich Modellarchitekturen, Finanzinformationen und Nutzerdaten. Anthropic schließt auch interne Bedrohungen nicht aus, etwa durch Mitarbeiter, die unter falscher Identität eingestellt oder zur Herausgabe geheimer Informationen gedrängt werden. Darüber hinaus sieht sich das Unternehmen mit wachsendem öffentlichen Widerstand gegen Rechenzentren konfrontiert. Lokalpolitiken prüfen oder verhängen Baumoratorien, weil Umweltbelastungen, Wasserverbrauch, Flächenverbrauch und die Stromversorgung für die Region problematisch sein können. Rechtlich sieht Anthropic ein erhebliches Haftungsrisiko, falls seine Modelle Schaden verursachen. Gleichzeitig räumt das Unternehmen ein, dass ein angemessener Versicherungsschutz für derartige KI-Risiken kaum verfügbar sein könnte, weil der Versicherungsmarkt keine Erfahrungen mit Katastrophenszenarien dieser Größenordnung hat. Damit zeigt die Börsenanmeldung einen grundlegenden Widerspruch im Geschäftsmodell: Anthropic sucht Kapital für die Weiterentwicklung autonomer KI-Systeme, deren möglicher Schaden das Unternehmen selbst als potenziell gesellschaftlich einschneidend beschreibt.