Wissenschaftsjournalisten haben festgestellt, dass der KI-Textgenerator ChatGPT bei der Zusammenfassung wissenschaftlicher Fachartikel erhebliche Schwächen aufweist. In einer Reihe von Tests, bei denen der KI-Modell Aufgaben wie die Erstellung von Kurzberichten oder Pressemitteilungen aus wissenschaftlichen Studien übertragen wurden, zeigte sich, dass ChatGPT oft die Genauigkeit der Inhalte opfert, um eine einfache und flüssige Sprache zu verwenden. Insbesondere bei komplexen Fachbegriffen, statistischen Methoden oder nuancierten Schlussfolgerungen kam es zu Fehlinterpretationen, vereinfachten Aussagen oder sogar zu falschen Schlüssen. Die Forscher und Journalisten kritisierten, dass die KI oft Kontexte verkennt, Hypothesen mit Ergebnissen verwechselt oder die Grenzen der Studien nicht angemessen berücksichtigt. In mehreren Fällen wurden beispielsweise kausale Zusammenhänge fälschlicherweise hergestellt, wo nur Korrelationen vorlagen, oder signifikante Ergebnisse übertrieben dargestellt. Die Analyse ergab, dass ChatGPT tendenziell „eine plausibel klingende, aber nicht korrekte“ Zusammenfassung liefert, die für Laien verständlich wirkt, aber wissenschaftliche Genauigkeit beeinträchtigt. Dies wirft erhebliche Bedenken hinsichtlich der Verwendbarkeit von KI-Modellen in der wissenschaftlichen Kommunikation auf, besonders in Medien, die auf präzise und verantwortungsvolle Berichterstattung angewiesen sind. Die Ergebnisse unterstreichen, dass KI-Modelle wie ChatGPT zwar nützliche Hilfsmittel für die Ideenfindung oder die Erstellung von Rohentwürfen sein können, aber nicht als alleinige Quelle für wissenschaftliche Zusammenfassungen dienen sollten. Experten fordern daher eine stärkere menschliche Überprüfung und Kontrolle, um Fehlinformationen zu vermeiden. Besonders kritisch wird die Verwendung von KI in der wissenschaftlichen Pressearbeit gesehen, wo präzise Darstellung und ethische Verantwortung zentral sind. Die Studie verdeutlicht zudem die Grenzen aktueller Sprachmodelle: Obwohl sie in der Lage sind, menschenähnliche Texte zu generieren, fehlt ihnen ein echtes Verständnis von wissenschaftlichen Methoden und deren Kontext. Die Forscher empfehlen daher, KI-Tools nur als ergänzende Werkzeuge zu nutzen, die stets von Fachexperten validiert werden müssen. Industrielle Experten sehen die Entwicklung als Warnsignal für die zunehmende Integration von KI in wissenschaftliche Kommunikation. Unternehmen wie OpenAI arbeiten an Verbesserungen, doch die zugrundeliegenden Herausforderungen – wie die Fähigkeit, zwischen Korrelation und Kausalität zu unterscheiden oder die Grenzen von Studien zu erfassen – bleiben komplex. Die Ergebnisse zeigen, dass KI-Systeme, so leistungsstark sie auch sein mögen, keine Ersatz für fachliche Expertise und kritische Reflexion darstellen. Für die Zukunft ist daher eine sorgfältige Balance zwischen Automatisierung und menschlicher Kontrolle erforderlich, um die Integrität der wissenschaftlichen Berichterstattung zu wahren.