Die Versicherungsbranche steht vor einer tiefgreifenden Krise, da künstliche Intelligenz (KI) zunehmend als zu riskant für die Absicherung gilt. Laut Berichten der Financial Times planen namhafte Versicherer wie AIG, Great American und WR Berkley, bei US-Regulierungsbehörden um die Ausnahme von KI-bezogenen Haftpflichten in Unternehmensversicherungspolicen zu bitten. Hintergrund ist die wachsende Sorge, dass KI-Systeme, insbesondere sogenannte „agente“ Modelle, unvorhersehbare und weitreichende Schäden verursachen können, die sich nicht in klassischen Versicherungsmodellen abbilden lassen. Ein Unternehmer bezeichnete die Ausgaben solcher Systeme als „zu viel ein schwarzes Loch“ – ein Hinweis auf die mangelnde Transparenz und Nachvollziehbarkeit der Entscheidungsprozesse in modernen KI-Modellen. Die Angst der Versicherer ist nicht nur theoretisch. Im März 2024 führte Google’s KI-Übersichts-Feature zu einer falschen Behauptung, ein Solarenergieunternehmen habe rechtswidrige Praktiken betrieben. Dies löste eine Klage im Wert von 110 Millionen US-Dollar aus. Im Jahr zuvor hatte ein Chatbot von Air Canada einen unerwarteten Rabatt auf eine Flugbuchung vergeben, den das Unternehmen dennoch erfüllen musste. Schlimmer noch: Im Jahr 2023 nutzten Betrüger eine digital gefälschte Version eines hochrangigen Managers, um während eines realistisch wirkenden Videoanrufs 25 Millionen US-Dollar von der britischen Ingenieurfirma Arup zu entwenden – ein Fall, der die Grenzen zwischen echter und manipulierter Kommunikation aufhebt. Was die Versicherer besonders beunruhigt, ist nicht der Einzelfall, sondern das Szenario einer systemischen Krise. Ein einziger fehlerhafter KI-Algorithmus, der in tausenden Unternehmen gleichzeitig eingesetzt wird, könnte gleichzeitig Tausende Schadensfälle auslösen. Ein Exekutivmitglied von Aon warnte: Während Versicherer noch mit einem Schaden von 400 Millionen Dollar bei einem einzigen Unternehmen umgehen könnten, wäre ein gleichzeitiger Ausfall von 10.000 Unternehmen aufgrund eines KI-Fehlers finanziell und strukturell untragbar. Die Branche befürchtet, dass die Versicherungsmöglichkeit für KI-basierte Prozesse kollabieren könnte, was wiederum die Innovationskraft der Technologie bremsen würde. Die Entwicklung zeigt, dass die rasante Einführung von KI ohne ausreichende Risikomanagement- und Haftungsstrukturen auf ein fundamentales Problem stößt. Ohne klare rechtliche Rahmenbedingungen und transparente KI-Systeme bleibt die Versicherbarkeit fraglich – ein Zeichen dafür, dass technologischer Fortschritt und regulatorische Sicherheit noch weit voneinander entfernt sind. Industrieexperten sehen die Lage als Warnsignal: Die Versicherungsbranche hat sich bisher auf vorhersehbare Risiken wie Unfälle oder Betrug konzentriert. KI bringt jedoch eine neue Dimension von Unsicherheit mit sich, die nicht mehr durch historische Daten oder klassische Risikomodelle abgedeckt werden kann. Unternehmen wie AIG oder Aon sind mittlerweile nicht mehr nur Versicherer, sondern auch Berater im Bereich KI-Risikomanagement. Die Entwicklung könnte dazu führen, dass KI-Systeme nur noch mit speziellen, hochpreisigen „KI-Haftpflichtversicherungen“ abgesichert werden – oder gar nicht versichert werden, was die digitale Transformation erheblich behindern könnte.