Der bekannte US-amerikanische Venture-Capitalist Bill Gurley von Benchmark Capital äußerte in einer jüngsten Episode des „All-In Podcasts" ernste Bedenken bezüglich der langfristigen Absichten des KI-Startups Anthropic. Gurley geht dabei von einer Theorie aus, die er als die „Dr.-Frankenstein-Theorie" bezeichnet. Er vertritt die Ansicht, dass Anthropic nicht einfach nur Software entwickelt, sondern bewusst versucht, ein gottähnliches System zu erschaffen, das über den Menschen herrschen könnte. Diese Einschätzung stützt sich Gurley zufolge auf eine Analyse der Schriften und öffentlichen Äußerungen von Anthropic-CEO Dario Amodei. Amodei schrieb im Oktober 2024 den Essay „Machines of Loving Grace", in dem er Szenarien skizzierte, in denen mächtige KI-Systeme eine Art Kapitalismus für KI-Systeme aufbauen und Ressourcen an Menschen verteilen. Gurley interpretierte dies als Vision einer Instanz, die Entscheidungen trifft, die das menschliche Schicksal lenken. Er fragt sich, ob er mehr Angst vor einer regulatorischen Gefangennahme haben sollte, die Anthypic Wettbewerbsvorteile sichert, oder vor dieser fundamentalen Absicht, eine übermenschliche Intelligenz zu erschaffen. Die Diskussion um Anthicorns Pläne wurde durch die jüngsten Aktivitäten des Mitgründers Chris Olah intensiviert, der gemeinsam mit Papst Leo XIV. an einer kirchlichen Erklärung teilnahm, die vor einer transhumanistischen Zukunft warnt. Gurley verweist darauf, dass der Fokus bei solchen Gesprächen oft auf der philosophischen Dimension liegt, während die technischen Machenschaften im Hintergrund bleiben. Gurleys Kollegen und die Moderatoren des Podcasts, darunter Jason Calacanis und David Sacks, unterstützten die Skepsis. Calacanis meinte, die Verantwortlichen bei Anthropic würden sich selbst als Prometheus-ähnliche Wesen betrachten, die fähig sind, einen Gott zu erschaffen. David Sacks, der frühere Berater der Trump-Regierung im Bereich KI, kritisierte, dass die Forderung nach strengen Sicherheitsvorschriften von manchen genutzt werde, um Konkurrenten als „riskant" darzustellen und so eigene Monopolstellungen zu festigen. Dario Amodei hatte in der Vergangenheit stets betont, dass er aus tiefer Sorge vor einer Machtkonzentration bei wenigen Unternehmen für eine umfassende staatliche Regulierung der KI-Technologie plädiere. Er verwies dabei auf vergangene Entscheidungen, bei denen Anthropic die öffentliche Veröffentlichung neuer Modelle verzögerte, um Sicherheitsrisiken zu minimieren, obwohl dies dem Startup zunächst einen Vorsprung vor der Konkurrenz bei OpenAI kostete. Kürzlich kündigte Anthropic an, die Veröffentlichung von Modellen des „Mythos"-Niveaus in den kommenden Wochen zu starten. Parallel zu diesen inhaltlichen Debatten steht Anthropic kurz vor einem historischen Schritt in der Unternehmensgeschichte. Am Montag hat das Unternehmen einen Entwurf des S-1-Formulars vertraulich bei der US-Börsenaufsicht SEC eingereicht. Dies gilt als erster formaler Schritt in Richtung eines Börsenganges, der potenziell zum größten aller Zeiten werden könnte. Während das Unternehmen auf eine direkte Stellungnahme zu den Vorwürfen von Bill Gurley verzichtete, bleibt die Frage bestehen, wie sich die ambitionierten Ziele der KI-Entwicklung und die damit verbundenen ethischen sowie regulatorischen Herausforderungen in der Zukunft entwickeln werden. Die Spannung zwischen technologischem Fortschritt, Sicherheit und den langfristigen gesellschaftlichen Auswirkungen ist somit so hoch wie nie zuvor.