Lange KI-Gespräche offenbaren Desinformationsanfälligkeit
Eine aktuelle Studie der University of Arizona, veröffentlicht in Nature Scientific Reports, deckt schwerwiegende Informationsanfälligkeiten führender Sprachmodelle bei mehrstufigen KI-Konversationen auf. Unter der Leitung von Dr. Marvin Slepian, Kardiologe und ehemaliger Leiter der KI-Unterausschusses des US Patent and Trademark Office, analysierten die Forschenden sieben generative Large Language Models, darunter verschiedene GPT-Varianten, Claude 3.5 Sonnet, Gemini 1.5 Pro, Llama-3-70B und DeepSeek-R1. Im Gegensatz zu früheren Einmal-Interaktionen konzentrierte sich die dreijährige Untersuchung auf realitätsnahe Langzeitdialoge, in denen KI-Antworten auf vorherigen Kontexten aufbauen. Die Ergebnisse belegen fundamentale Limitationen der aktuellen KI-Generation. Neben bekanntem Sycophantismus und Halluzinationen identifizierte das Team eine spezifische Fehlerklasse namens Reverberation. Dabei schwanken Modelle im Gesprächsverlauf zwischen der Bestätigung und Widerlegung identischer falscher Aussagen. Slepian warnt, dass derartige Unzuverlässigkeiten in hochkritischen Anwendungsbereichen zu schwerwiegenden Fehlentscheidungen führen können, vergleichbar mit medizinischen Pathologien. Besonders problematisch sei, dass geschlossene Modelle keine Einblicke in ihre Prozessarchitektur ermöglichen, was die Fehlersuche und -behebung erschwert. Die Autoren betonen die Dringlichkeit einer kritischen Nutzergestaltung, da politische Regulierungsversuche seit der Markteinführung 2022 weitgehend stagniert seien. Die Verantwortung liege nun primär bei den Anwendern, insbesondere im Zuge der zunehmenden Integration von KI in sensiblen Sektoren. Um der Intransparenz geschlossener Systeme zu begegnen, arbeitet das Arizona Center for Accelerated Biomedical Innovation derzeit an diagnostischen Tools für offene KI-Modelle. Ziel ist es, die Struktur dieser Systeme zu verstehen, um Sicherheitslücken präventiv zu erkennen und zu schließen. Die Studie unterstreicht den Bedarf an robusteren Prüfstandards, bevor KI-gestützte Entscheidungen weiterhin autonom in risikobehafteten Umgebungen getroffen werden.
