Projekt fordert mehr Kontrolle im Wettlauf um KI-Entwicklung

Die „OpenAI-Dateien“ fordern Überwachung im Rennen um die künstliche allgemeine Intelligenz (AGI) Der CEO von OpenAI, Sam Altman, hat erklärt, dass die Menschheit nur noch wenige Jahre davon entfernt sei, eine künstliche allgemeine Intelligenz zu entwickeln, die den Großteil der menschlichen Arbeit automatisieren könnte. Wenn dies zutrifft, verdient die Menschheit ein Verständnis und Mitspracherecht über die Personen und Mechanismen, die hinter dieser unglaublich mächtigen und destabilisierenden Kraft stehen. Dies ist der Leitgedanke hinter den „OpenAI-Dateien“, einem Archiv-Projekt der Midas Project und des Tech Oversight Project, zweier gemeinnütziger Technologie-Überwachungsorganisationen. Die Dateien sind eine „Sammlung dokumentierter Bedenken hinsichtlich der Governance-Praktiken, der Führungsintegrität und der Organisationskultur bei OpenAI“. Neben der Aufklärung zielt das Projekt darauf ab, einen Weg voranzuschlagen, der sich auf verantwortungsvolle Governance, ethische Führung und gemeinsame Nutzen konzentriert. „Die Governance-Strukturen und die Führungsintegrität, die ein Projekt von solcher Bedeutung leiten, müssen die Tragweite und Schwere der Mission widerspiegeln“, heißt es auf der Website „Vision for Change“. „Die Unternehmen, die im Rennen um die AGI führen, müssen nach außen und selbst exceptionally hohe Standards erfüllen.“ Bisher hat der Wettbewerb um die Vorherrschaft in der KI-Technologie zu einer rohen Skalierung geführt – einem Wachstums-zu-jedem-Preis-Gedanken, der Unternehmen wie OpenAI dazu verleitet hat, Inhalte ohne Einwilligung für Trainingszwecke zu sammeln und riesige Datenzentren zu errichten, die zu Stromausfällen und steigenden Elektrizitätskosten für lokale Verbraucher führen. Der Druck zur Kommerzialisierung hat auch dazu geführt, dass Unternehmen Produkte vor der Einführung notwendiger Sicherheitsmaßnahmen auf den Markt bringen, während der Druck von Investoren auf Gewinnmaximierung zunimmt. Dieser Druck von Investoren hat die Kernstruktur von OpenAI verändert. Die „OpenAI-Dateien“ beschreiben, wie das Unternehmen in seinen Anfangstagen als gemeinnütziges Unternehmen die Investorengewinne auf maximal 100-fach begrenzt hatte, damit die Erträge aus der Erreichung der AGI der Menschheit zugutekommen würden. Inzwischen hat OpenAI jedoch Pläne bekannt gegeben, diese Obergrenze abzuschaffen. Das Unternehmen gab zu, dass es diese Änderungen vorgenommen hat, um Investoren zu besänftigen, die ihre Finanzierung von strukturellen Reformen abhängig machten. Die Dateien werfen auch Fragen über OpenAIs eilige Sicherheitsbewertungsprozesse und seine „Kultur der Leichtfertigkeit“ auf, sowie potenzielle Interessenkonflikte der Board-Mitglieder und Altman selbst. Sie enthalten eine Liste von Start-ups, die möglicherweise in Altmans eigenem Investmentportfolio sind und Geschäftsgebiete mit OpenAI teilen. Die Integrität von Altman, die seit 2023 Gegenstand von Spekulationen war, ist ebenfalls in den Fokus gerückt. Zu diesem Zeitpunkt versuchten führende Mitarbeiter ihn wegen „täuschenden und chaotischen Verhaltens“ abzusetzen. „Ich glaube nicht, dass Sam der Mann ist, der den Finger am Knopf für AGI haben sollte“, soll Ilya Sutskever, ehemaliger Chief Scientist bei OpenAI, damals gesagt haben. Die von den „OpenAI-Dateien“ aufgeworfenen Fragen und Lösungen erinnern uns daran, dass enorme Macht in den Händen weniger Personen liegt, mit wenig Transparenz und begrenzter Überwachung. Die Dateien bieten einen Einblick in diese Black Box und zielen darauf ab, die Diskussion von der Unvermeidbarkeit zur Verantwortlichkeit zu verschieben. Rebecca Bellan ist Senior-Reporterin bei TechCrunch, wo sie Tesla und das breitere Imperium von Elon Musk, Autonomie, KI, Elektrifizierung, Plattformen für Nebentätigkeiten, die staatliche Überwachung großer Technologiekonzerne und mehr abdeckt. Sie ist Co-Moderatorin der Equity-Podcast-Serie und Autorin desTechCrunch Daily-Morgennachrichtenbriefs. Zuvor berichtete sie für Forbes.com über soziale Medien, und ihre Beiträge erschienen in Bloomberg CityLab, The Atlantic, The Daily Beast, Mother Jones, i-D (Vice) und anderen Publikationen. Rebecca hat in Ethereum investiert.