OpenAI will KI-Entwicklung verlangsamen: Kontrolle sichern
Die führende künstliche-Intelligenz-Branche hat kürzlich einen gemeinsamen Aufruf zur Verlangsamung ihrer Entwicklungsraten aus Sicherheitsgründen formuliert. Dario Amodei warnte davor, dass die zunehmend autonom agierenden Modelle durch rekursive Selbstverbesserung ein unkontrollierbares Wachstumspotenzial entwickeln könnten. Ungebrochenes Tempo lasse sich kaum beherrschen, da die Technologie die menschliche Fähigkeit zur Überprüfung und Steuerung schnell überholen würde. Um dies zu verhindern, skizzierte er einen dreistufigen Plan, der industrielle Wettbewerbsfähigkeit und technologische Führung mit risikobewusster Regulation in Einklang bringen soll. Kernpunkte sind die Etablierung gemeinsamer Sicherheitsstandards, die Dämpfung unüberwachter Fortschritte sowie der Aufbau internationaler Koordinationsstrukturen. Sam Altman, Vorstandsvorsitzender von OpenAI, unterstrich in öffentlichen Stellungnahmen seine volle Unterstützung für diese Strategie. Er präzisierte, dass ein gezieltes Pacing nicht mit einem Entwicklungsstopp gleichzusetzen sei. Fortschritte würden weiterhin erwartet, dürften jedoch nicht ohne angemessene Sicherheitsarchitekturen voranschreiten. Vor einer Rücksichtslosigkeit im reinen Wettbewerb warnte er explizit und betonte, dass leistungsstarke Systeme nicht ihrer technischen Ausrichtung und Überwachung vorauslaufen dürften. OpenAI werde, analog zu den bereits von Anthropic kommunizierten Schritten, externen Prüfern umfassende Zugriffsrechte einräumen, um unabhängige Bewertungen zu gewährleisten. Zugleich sah Altman die staatliche Ebene als unverzichtbaren Partner für eine verbindliche globale Abstimmung an. Die initiierte Bewegung markiert eine branchenweite Wende hin zu koordinierter Risikosteuerung, wobei die praktische Implementierung und internationale Verbindlichkeit aktuell noch verhandelt werden.
