KI-Forscher sagen: Autonome KI-Entwicklung ist nah

Das Konzept der rekursiven Selbstverbesserung, bei dem künstliche Intelligenzmodelle eigenständig ihre eigenen Architekturen und Fähigkeiten weiterentwickeln, rückt für führende Technologieunternehmen zunehmend in den Vordergrund. Was einst als fernes Forschungsideal galt, nähert sich der praktischen Umsetzung. Experten sprechen von einem technologischen Meilenstein, der erhebliche wissenschaftliche und medizinische Fortschritte verspricht, zugleich aber fundamentale Fragen nach Kontrolle und Sicherheit aufwirft. Bei Anthropic unterstützt das Modell Claude bereits heute rund 26 Prozent der internen Forschungs- und Entwicklungsarbeiten. Es führt Aufgaben weitgehend end-to-end von einer hohen Befehlsebene aus durch, bleibt jedoch unter menschlicher Aufsicht. Ähnliche Initiativen treiben andere Labs voran: OpenAI arbeitet an einem automatisierten Forschungsassistenten und strebt bis März 2028 ein vollwertiges, automatisiertes KI-Forschersystem an. Elon Musk kündigte für das xAI-Modell Grok an, menschliche Eingriffe schrittweise zu reduzieren; das Ziel einer vollständig automatisierten Modellgeneration soll bis spätestens 2027 erreicht werden. Microsoft setzt hingegen auf einen kontrollierteren Ansatz. CEO Mustafa Suleyman prägt den Begriff der humanistischen Superintelligenz, die stark eingebettet und klar begrenzt bleibt, anstatt uneingeschränkte Autonomie anzustreben. Die wissenschaftliche Einordnung variiert. Anthony Aguirre von der Future of Life Institute betont, dass KI-Prozesse durch Geschwindigkeitsvorteile exponentiell an Tempo gewinnen könnten, was eine schnellere Annäherung an vollständige Autonomie bedeutet. John Thickstun von der Cornell University weist darauf hin, dass Unterstützung durch Vorgängermodelle bereits seit Jahren praktiziert werde, große kreative Sprünge jedoch noch ausstehen. Gleichzeitig warnen Experten vor der Entstehung einer unkontrollierbaren Superintelligenz, falls die Sicherheitsforschung nicht mit den Leistungssteigerungen Schritt hält. OpenAI räumte ein, dass ein schneller Übergang zu voll alignierter rekursiver Selbstverbesserung derzeit nicht sicher gewährleistet werden könne, betonte aber den potenziellen Nutzen automatisierter Sicherheitsprüfungen. Die Branche reagiert gespalten auf die wachsende Machtkonzentration und die damit verbundenen Risiken. Während Anthropic und zahlreiche Sicherheitsexperten einen international koordinierten Verlangsamungseffekt fordern, um menschenkontrollierte Entwicklungswege zu sichern, setzen einige Anbieter weiter auf schnellen Fortschritt. Demokratische Abwägungen zwischen Innovationsgeschwindigkeit und algorithmischer Transparenz sowie überprüfbare Sicherheitsstandards gelten nun als zentraler Hebel, um die nächste Generation intelligenter Systeme in sichere Bahnen zu lenken.