Eine neu veröffentlichte Studie der Cornell University und der Carnegie Mellon University warnt vor den ungewollten Folgen schwacher künstlicher Intelligenz-Regulierung. Die Forschung, veröffentlicht in den Proceedings of the National Academy of Sciences, zeigt, dass unzureichende Sicherheitsvorschriften im Vergleich zu keiner Regulation sogar zu unsicheren KI-Produkten führen können. Die Autoren um den Doktoranden Benjamin Laufer, Jon Kleinberg von Cornell sowie Hoda Heidari von der Carnegie Mellon University entwickelten ein theoretisches Modell, um die Anreize für Hersteller allgemeiner KI-Modelle und nachgelagerte Unternehmen zu bewerten, die diese Modelle beispielsweise in Kundenservice-Chatbots oder medizinischen Diagnostiksystemen integrieren. Das Ergebnis des Modells ist eindeutig: Wenn Sicherheitsvorschriften ausschließlich auf die nachgelagerten Entwickler abzielen und eine niedrige Sicherheitsgrenze festlegen, sinkt die Gesamtproduktqualität unter das Niveau ohne Regulierung. Die Forscher bezeichnen diesen Effekt als Free-Riding-Verhalten. Allgemeine KI-Anbieter können dadurch Investitionen in fundamentale Sicherheitsaudits vernachlässigen, da sie die Verantwortung für die Sicherheit des Endprodukts an die spezialisierten nachgelagerten Unternehmen abwälzen. Diese sehen sich gezwungen, eigene Sicherheitsmaßnahmen zu ergreifen, was im Gesamtsystem jedoch zu einer verzerrten Risikoverteilung und insgesamt höheren Gefahren für Nutzer führt. Umgekehrt demonstriert das Modell einen klaren Regelungsnutzen, wenn sowohl die Grundlagenthersteller als auch die spezialisierten Anwenderunternehmen verbindliche, angemessene Sicherheitsziele erreichen müssen. In diesem Szenario entsteht ein positiver Kreislauf aus gesteigerter Sicherheit und wirtschaftlichem Nutzen. Die gegenseitige Verpflichtung auf transparente Sicherheitsstandards reduziert das Risiko für beide Seiten, da keine der Parteien mehr blind auf die Zusagen des anderen angewiesen ist. Laut den Forschern ermöglicht eine sorgfältig gestaltete Regulierung es der gesamten Wertschöpfungskette, vorhersehbare und sichere Rahmenbedingungen zu schaffen, die Verbraucherinteressen und Unternehmensgewinne in Einklang bringt. Die Studie unterstreicht, dass KI-Systeme nicht als isolierte Produkte, sondern als komplexe Ökosysteme mit verschiedenen Stakeholdern zu betrachten sind. Um wirksame politische Maßnahmen zu entwickeln, seien umfassende Ansätze erforderlich, die die gesamte Lieferkette einbeziehen. Die Autoren planen, ihr Modell in künftigen Projekten um reale Marktdaten sowie multinationale regulatorische Landschaften zu erweitern, um die praktischen Auswirkungen unterschiedlicher Regulierungsansätze auf die KI-Entwicklung präziser abbilden zu können. Die Ergebnisse liefern damit eine evidenzbasierte Grundlage für künftige Gesetzgebungsdebatten im Technologiebereich.