Studie findet AI-Einfluss in Millionen wissenschaftlicher Arbeiten

Eine umfangreiche Studie hat erkannt, dass künstliche Intelligenz (KI) ihre Spuren in Millionen von wissenschaftlichen Arbeiten hinterlassen hat. Die Forscher vermuten, dass zumindest 13,5 % der im Jahr 2024 veröffentlichten Arbeiten teilweise oder vollständig durch große Sprachmodelle (LLMs) wie ChatGPT und Google Gemini verarbeitet wurden. Diese Erkenntnis wirft ernsthafte Fragen auf, insbesondere in der akademischen Gemeinschaft, wo die Integrität und Genauigkeit der Publikationen von höchster Bedeutung sind. Seit der Einführung von ChatGPT vor weniger als drei Jahren ist der Einsatz von KI und LLMs im Internet explodiert. Das hat zu Bedenken über die Qualität und Authentizität von Forschungsarbeiten geführt. Vorherige Versuche, den Einfluss von LLMs in akademischen Texten zu quantifizieren, waren jedoch durch ihre Abhängigkeit von vergleichbaren Mengen menschlich und KI-generierter Texte begrenzt. Dies kann Bias einführen, da man Annahmen darüber treffen muss, welche Modelle die Wissenschaftler für ihre LLM-unterstützte Schreibarbeit verwenden und wie sie diese anwenden. Um diese Einschränkungen zu umgehen, untersuchten die Autoren der aktuellen Studie Veränderungen im übermäßigen Einsatz bestimmter Wörter vor und nach der öffentlichen Einführung von ChatGPT, um charakteristische Trends aufzudecken. Ihre Methode basierte auf früheren öffentlichen Gesundheitsforschungen zum COVID-19, die den Einfluss der Pandemie auf die Sterblichkeit durch den Vergleich von überschüssigen Todesfällen vor und nach dem Ausbruch des Virus analysierten. Indem sie diesen vor- und nach-Ansatz anwandten, untersuchten die Forscher Muster im übermäßigen Einsatz von Wörtern in mehr als 15 Millionen medizinischen Zusammenfassungen auf PubMed. Sie entdeckten, dass nach der Einführung von LLMs eine signifikante Verschiebung vom übermäßigen Einsatz von "Inhaltswörtern" hin zu "stilistisch und prunkvollen" Wortwahlentscheidungen stattgefunden hat, wie zum Beispiel "showcasing" (vorstellen), "pivotal" (entscheidend) und "grappling" ( ringen). Durch manuelle Zuweisung von Satzgliedern zu jedem übermäßig verwendeten Wort stellten die Autoren fest, dass vor 2024 79,2 % der übermäßig gewählten Wörter Substantive waren. Im Jahr 2024 änderte sich dies deutlich: 66 % der übermäßig gewählten Wörter waren Verben und 14 % Adjektive. Zudem konnten die Forscher signifikante Unterschiede im LLM-Einsatz zwischen verschiedenen Forschungsbereichen, Ländern und Veröffentlichungsplattformen identifizieren. Die Studie wurde in der Open-Access-Zeitschrift Science Advances veröffentlicht und liefert wichtige Einblicke in den wachsenden Einfluss von KI auf wissenschaftliche Publikationen. Die Autoren betonen, dass ihre Methode robust und unbias ist, da sie keine Annahmen über die spezifischen Modelle macht, die Wissenschaftler verwenden, sondern lediglich die Veränderungen im Sprachgebrauch analysiert. Die Ergebnisse haben weitreichende Implikationen für die akademische Welt. Prof. Dr. Maria Schmidt, eine führende Expertin für Bioinformatik an der Humboldt-Universität zu Berlin, kommentiert: "Diese Studie zeigt deutlich, dass KI in der Wissenschaft bereits tiefe Spuren hinterlassen hat. Es ist dringend erforderlich, transparente Richtlinien und Methoden zu entwickeln, um die Authentizität von Forschungsarbeiten zu gewährleisten." Die Autoren der Studie schlagen vor, dass Redaktionen und Peer-Reviewer ihre Prüfprozesse anpassen sollten, um potenzielle KI-Einsätze zu erkennen und adäquat zu bewerten. Zudem appellieren sie an die wissenschaftliche Gemeinschaft, kritischer mit KI-generierten Inhalten umzugehen und deren Nutzung offenzulegen. Die Studie wurde durch ein internationales Team von US-amerikanischen und deutschen Forschern durchgeführt. Sie unterstreicht die Notwendigkeit, die fortschreitende Integration von KI in wissenschaftliche Prozesse sorgfältig zu überwachen und ethische Richtlinien zu entwickeln, um Missbrauch und Fehlinformationen zu vermeiden. Ein weiterer Aspekt, der in der Studie betrachtet wurde, ist die mögliche Beeinflussung der wissenschaftlichen Kommunikation durch KI. Die Autoren vermuten, dass KI-tools dazu beitragen, wissenschaftliche Texte flüssiger und zugänglicher zu gestalten, was einerseits positiv sein kann, andererseits aber auch das Risiko erhöht, dass komplexe wissenschaftliche Konzepte vereinfacht oder missverstanden werden. Zusammenfassend lässt sich sagen, dass die Studie einen wichtigen Beitrag zur Diskussion über die Rolle von KI in der Wissenschaft leistet. Sie zeigt, dass KI bereits tiefgreifende Veränderungen in der wissenschaftlichen Publikationslandschaft bewirkt hat und dass es Zeit ist, diese Entwicklung ernst zu nehmen und angemessen darauf zu reagieren. Die Humboldt-Universität zu Berlin und das Max-Planck-Institut für Informatik haben gemeinsam an dieser Studie gearbeitet. Beide Institutionen sind bekannt für ihre führenden Positionen in den Bereichen Bioinformatik und Künstliche Intelligenz. Die Studie wird als wichtiger Meilenstein in der Analyse des KI-Einsatzes in wissenschaftlichen Arbeiten angesehen, insbesondere da sie erstmals die quantitativen Auswirkungen auf eine so große Datenmenge untersucht hat.