OpenAI, Anthropic, Google erörtern KI-Sicherheit

Der Chief Global Affairs Officer von OpenAI, Chris Lehane, erklärte am Dienstag, dass das Unternehmen seit Wochen mit den Konkurrenten Anthropic und Google DeepMind über die Sicherheit der künstlichen Intelligenz verhandle. Er stehe in Washington im Austausch mit US-Abgeordneten, wobei der Schwerpunkt auf den katastrophalen Risiken durch fortschrittliche KI sowie entsprechenden Governance-Maßnahmen liege. Die Zusammenarbeit wurde maßgeblich durch einen aktuellen Artikel des Anthropic-Chefs Dario Amodei vorangetrieben. In diesem fordert er die Branche dazu auf, das Wachstum der Fähigkeiten fortschrittlicher KI zu verlangsamen, um Zeit für den Aufbau von Sicherheitsmechanismen zu gewinnen. Der CEO von OpenAI, Sam Altman, der Leiter von Google DeepMind, Demis Hassabis, sowie der SpaceX AI-Chef Elon Musk unterstützten diese Initiative anschließend. Altman betonte zudem, dass OpenAI bereit sei, externe Prüfer in die Sicherheitsaufsicht einzubinden. Berichten zufolge diskutieren die drei Unternehmen auch die Einrichtung einer Behörde zur Festlegung von Industriestandards für KI. Da koordinierte Maßnahmen zwischen Unternehmen Bedenken hinsichtlich des Kartellrechts wecken könnten, hatte Amodei vorgeschlagen, der Regierung begrenzte Ausnahmeregelungen zu gewähren; Lehana ist jedoch der Ansicht, dass eine Zusammenarbeit im Bereich der Sicherheit keine solchen Vorkehrungen erfordert. Gleichzeitig unterstützt OpenAI Bestimmungen zum FRONTIER Act, einem Gesetzentwurf, der von Abgeordneten beider Parteien eingebracht wurde. Das Gesetz würde große Entwickler fortschrittlicher KI verpflichten, lizenzierte unabhängige Prüfbehörden damit zu beauftragen, fortlaufend das Risikomanagement, die Sicherheitsgovernance sowie die Maßnahmen zur Milderung katastrophaler Risiken der Unternehmen zu bewerten.