Anthropic-Chef Amodei verteidigt KI-Sicherheitskurs

Anthropic-CEO Dario Amodei hat eine öffentliche Kritik an der Sicherheitsstrategie des Unternehmens zurückgewiesen. In einem am Dienstag veröffentlichten, rund 2.000 Wörter umfassenden Beitrag auf X reagierte er auf eine Kritik von Nathan Calvin, Chefstratege der KI-Sicherheitsorganisation Encode AI. Calvin hatte am Montag gewarnt, Anthropic priorisiere im Wettlauf zur Superintelligenz die technische Führung vor dem Schutz vor KI-Risiken und habe zahlreiche sicherheitsrelevante Zusagen verwässert. Zu den kritisierten Entwicklungen zählte er Rechenzentrumsverträge im Wert von mehr als 500 Milliarden Dollar sowie die zunehmende Abhängigkeit vom Modell Claude bei der Entwicklung eigener KI-Systeme. Amodei erklärte, Anthropic trage zum KI-Sicherheit am wirksamsten bei, wenn das Unternehmen an der technologischen Spitze bleibe. Die Strategie bestehe darin, verantwortungsvolle Entwicklung am Markt zu beweisen und damit den Standard für die gesamte Branche zu erhöhen. Zugleich nannte er eigene Maßnahmen, die für Anthropic kommerziell teuer, aber sicherheitspolitisch sinnvoll gewesen seien. Dazu zählten die nur begrenzte Freigabe des Mythos-Modells für ausgewählte Partner im Bereich Cybersicherheit sowie Einschränkungen beim Verkauf von KI-Diensten an staatlich kontrollierte Unternehmen in China. Teilweise räumte er ein, dass Anthropic einzelne Kritikpunkte besser hätte adressieren können, etwa einen im US-Kongress kursierenden Gesetzentwurf, der nach Kritikerangaben die Möglichkeit der US-Regierung erschweren würde, gefährliche KI-Modelle zu blockieren. Der Disput fällt in eine Phase intensiver Debatte über KI-Sicherheit. Nach warnenden Einschätzungen von KI-Forschenden, wonach immer leistungsfähigere Systeme innerhalb eines Jahrzehnts erhebliche globale Risiken bis hin zu existenziellen Bedrohungen verursachen könnten, hatten sich mehrere Unternehmenslenker, darunter Amodei, OpenAI-CEO Sam Altman und Elon Musk, für ein bewussteres Tempo bei der Entwicklung an der technologischen Spitzenposition ausgesprochen. Anthropic steht zugleich kurz vor einem möglichen Börsengang, der im November mit einer Bewertung von bis zu 2 Billionen Dollar erwartet wird. Im dritten Quartal meldete das Unternehmen Einnahmen von 16,8 Milliarden Dollar.