HyperAIHyperAI

Command Palette

Search for a command to run...

Hochfrequente Briefe an Fachzeitschriften: AI-Generierung sorgt für wachsende Täuschung

Zwei Tage nach der Veröffentlichung eines Beitrags über Malaria-Controlling in der New England Journal of Medicine (NEJM) erhielten Carlos Chaccour, Arzt- und Forscher an der Universität Navarra, und Matthew Rudd, Statistiker an der University of the South, eine kritische E-Mail, die scheinbar wissenschaftlich fundiert, aber inhaltlich fehlerhaft war. Die anonyme Schriftstellerin zitierte Arbeiten, die ihre Argumente nicht stützten – ein Hinweis, der Chaccour und Rudd auf die Möglichkeit von KI-generierten Texten brachte. Dies führte zu einer umfassenden Analyse von über 730.000 Briefen an die Redaktion, die in den vergangenen 20 Jahren in wissenschaftlichen Zeitschriften erschienen waren. Die Studie, die als Preprint auf Research Square veröffentlicht wurde, zeigt, dass ab 2023 ein auffälliger Anstieg sogenannter „prolifikter Debütanten“ zu verzeichnen war: Eine kleine Gruppe von Autoren, die zuvor kaum publiziert hatten, tauchte plötzlich in den oberen 5 % der produktivsten Briefschreiber auf. Diese Autoren, die nur 3 % aller aktiven Verfasser zwischen 2023 und 2025 ausmachten, verfassten 22 % aller Briefe – fast 23.000 Stück – und erschienen in 1930 Zeitschriften, darunter 175 in The Lancet und 122 in der NEJM. Ein Fallbeispiel: ein qatarischer Arzt, der 2024 noch keine Briefe veröffentlicht hatte, aber 2025 über 80 in verschiedenen Fachgebieten verfasste – eine ungewöhnliche Vielfalt, die auf menschliche Fähigkeiten hindeutet, aber kaum plausibel ist. Die durchschnittliche Anzahl an Briefen pro Autor stieg in den letzten 20 Jahren nur minimal von 1,16 auf 1,34, und die Anzahl der beteiligten Zeitschriften blieb seit 2022 stabil. Die plötzliche Produktivitätsexplosion lässt sich daher kaum durch allgemeine Trends erklären. Die Forscher führten eine Fallstudie mit 81 Briefen des qatarischen Autors durch, die mit dem Pangram-AI-Textdetektor analysiert wurden: Der Durchschnittswert lag bei 80 von 100 – ein starkes Indiz für KI-Generierung. Bei 74 Briefen aus den späten 2000er Jahren, vor dem Aufkommen von ChatGPT, wurde kein KI-Beitrag erkannt. Briefe an die Redaktion sind attraktiv für KI-Nutzung, da sie kurz, schnell verfasst und ohne Peer-Review erscheinen. Sie dienen oft der Karriereverstärkung, ohne echte wissenschaftliche Substanz zu liefern. Einige der neuen Autoren stammen aus Ländern, in denen Englisch keine Muttersprache ist – hier kann KI helfen, aber auch zur Massenproduktion von minderwertigen Texten führen. Seth Leopold, Herausgeber von Clinical Orthopaedics and Related Research, warnt vor „Kunststoffwissenschaft“: Viele KI-Briefe weisen eine einheitliche Struktur auf, äußern keine neuen Einsichten und wiederholen bereits bekannte Schwächen der Originalstudien. Um die Qualität zu sichern, fordern er und sein Team nun von Autoren verifizierbare Zitate aus den zitierten Quellen. Obwohl dies mehr Arbeit bedeutet, sei es notwendig, um das Vertrauen in wissenschaftliche Publikationen zu bewahren. Chaccour betont: „Es kostete mich sechs Jahre und 25 Millionen Dollar, meinen Artikel zu veröffentlichen. Ein KI-Brief dazu konnte in Minuten entstehen.“ Die Gefahr sei, dass echte Diskussionen durch synthetischen Lärm erstickt werden. Industrieexperten warnen vor einer neuen Form der wissenschaftlichen Inflation: Während KI die Barriere für die Publikation senkt, droht die Qualität der wissenschaftlichen Kommunikation zu leiden. Journals sind gezwungen, neue Kontrollmechanismen zu entwickeln, doch die Selbstverpflichtung zur KI-Transparenz bleibt gering. Die Studie von Chaccour und Rudd markiert einen Wendepunkt: Sie zeigt, dass KI nicht nur Forschungsartikel, sondern auch die oft unterschätzte Arena der Briefe an die Redaktion beeinflusst – mit potenziell schwerwiegenden Konsequenzen für die Integrität der Wissenschaft.

Verwandte Links

Hochfrequente Briefe an Fachzeitschriften: AI-Generierung sorgt für wachsende Täuschung | Aktuelle Beiträge | HyperAI