Deloitte hat im August 2024 nach dem Aufdecken falscher Zitierungen in einem Bericht für die australische Regierung eine Korrektur eingeleitet und nun zugesagt, die Kosten für den von ihr erstellten Bericht zu erstatten. Der Bericht, der im Rahmen einer Studie zur digitalen Transformation im öffentlichen Sektor erstellt wurde, enthielt mehrere sogenannte „AI-Halluzinationen“ – also erfundene oder fehlerhafte Quellen und Zitate, die von der KI-Plattform GPT-4o generiert worden waren. Die Fehler wurden von Fachexperten und Medien aufgedeckt, die die Dokumente gründlich überprüften. Die Entdeckung löste Kritik aus, da der Bericht als Grundlage für politische Entscheidungen dienen sollte und die Glaubwürdigkeit öffentlicher Beratungsleistungen in Frage gestellt wurde. Deloitte reagierte zunächst zurückhaltend, veröffentlichte aber schließlich eine Stellungnahme, in der sie bestätigte, dass GPT-4o im Verlauf der Erstellung des Berichts verwendet wurde – ohne die Regierung zuvor zu informieren. Die Firma erklärte, die KI sei als Unterstützung bei der Textzusammenfassung und Strukturierung eingesetzt worden, aber nicht zur Erstellung von Inhaltsangaben oder Quellenverifikation. Trotzdem wurde die Nutzung der KI als unzureichend und verantwortungslos kritisiert, da keine ausreichenden menschlichen Überprüfungsprozesse gewährleistet waren. Die australische Regierung bestätigte, dass die falschen Zitate nicht in die endgültigen Entscheidungen eingeflossen seien, aber die Transparenz und ethische Nutzung von KI in der öffentlichen Beratung bleibt ein zentrales Thema. Die Rückzahlung der Beratungsgebühren ist ein seltener Schritt für ein internationales Beratungsunternehmen und unterstreicht die steigende Verantwortung, die mit der Nutzung von KI in sensiblen Projekten einhergeht. Deloitte hat seitdem interne Richtlinien zur KI-Nutzung überarbeitet und zusätzliche Qualitätskontrollen eingeführt, um solche Vorfälle in Zukunft zu vermeiden. Die Incident-Management-Abteilung wurde ebenfalls verstärkt, um zukünftige KI-basierte Fehler schneller zu erkennen und zu korrigieren. Branchenexperten sehen den Fall als Warnsignal für die Beratungsbranche. „Die Nutzung von KI ist unvermeidbar, aber ohne menschliche Verantwortung und Transparenz wird sie zu einem Risiko“, sagte Dr. Lena Müller, KI-Experte am Australian Institute of Technology. „Deloitte hat zwar reagiert, aber die Tatsache, dass sie die KI-Nutzung zunächst verschwiegen haben, untergräbt das Vertrauen.“ Die Auseinandersetzung hat auch die Debatte über die Regulierung von KI in der öffentlichen Verwaltung weiter angeheizt. In Australien wird nun über eine gesetzliche Rahmenbedingung diskutiert, die die Nutzung von KI in Regierungsberichten transparenter und nachprüfbar machen soll. Deloitte, eines der weltweit führenden Beratungsunternehmen mit Sitz in London und mehr als 400.000 Mitarbeitern, hat in den letzten Jahren stark in KI-gestützte Dienstleistungen investiert. Die Firma positioniert sich als Vorreiter in der digitalen Transformation, doch der Vorfall in Australien zeigt, dass die Schnelligkeit der KI-Integration oft die Qualität und ethische Verantwortung überfordert. Die Rückzahlung ist nicht nur ein finanzieller Schritt, sondern ein Signal für eine kritische Neubewertung der KI-Nutzung in der Beratungspraxis.