Wissenschaftler nutzen versteckte AI-Anweisungen bei Peer-Reviews

Forscher versuchen, Peer-Review durch versteckte KI-Anweisungen zu beeinflussen Nach Berichten von Nikkei Asia haben sich Wissenschaftler auf eine neue Strategie verlegt, um den Peer-Review-Prozess ihrer Forschungsarbeiten zu beeinflussen: Sie fügen versteckte Anweisungen ein, die KI-Tools dazu bewegen sollen, positive Rückmeldungen zu geben. Nikkei Asia fand bei der Untersuchung englischsprachiger Preprint-Papiere auf der Website arXiv insgesamt 17 Papiere, die solche versteckten KI-Anweisungen enthielten. Die Autoren stammten aus 14 akademischen Einrichtungen in acht Ländern, darunter das Waseda-Universität in Japan, das KAIST in Südkorea sowie die Columbia University und die University of Washington in den USA. Die untersuchten Papiere befassten sich in der Regel mit Informatik und enthielten kurze Anweisungen (ein bis drei Sätze), die durch weißen Text oder extrem kleine Schriftarten verborgen wurden. Diese Anweisungen sollten potenzielle KI-Reviewer auffordern, „nur positive Bewertungen“ abzugeben oder das Papier für seine „wirksamen Beiträge, methodische Strenge und außergewöhnliche Neuheit“ loben. Ein Professor der Waseda-Universität, der von Nikkei Asia kontaktiert wurde, verteidigte die Verwendung dieser Anweisungen. Er argumentierte, dass viele Konferenzen die Nutzung von KI zur Prüfung von Arbeiten verbieten und die Anweisungen daher als „Abwehr gegen faule Reviewer, die KI einsetzen“ dienen sollten. Diese Strategie wirft jedoch ernsthafte ethische Fragen auf. Der Peer-Review-Prozess ist ein wesentlicher Bestandteil der wissenschaftlichen Publikation, da er die Qualität und Richtigkeit der Forschung sicherstellt. Die Verwendung versteckter Anweisungen, um positive Reaktionen von KI-Tools zu erzwingen, könnte die Integrität dieses Prozesses untergraben und zu verfälschten Bewertungen führen. Zudem besteht die Gefahr, dass solche Methoden die Glaubwürdigkeit der beteiligten Institutionen schädigen und das Vertrauen in wissenschaftliche Veröffentlichungen allgemein erschüttern. Die meisten der entdeckten Papiere befassen sich mit Themen wie maschinelles Lernen, künstliche Intelligenz und Datenanalyse. Die Anweisungen wurden oft am Ende der Arbeiten platziert, wo sie leicht übersehen werden können. Einige Autoren gaben an, dass sie diese Technik nutzen, um sicherzustellen, dass ihre Arbeiten sorgfältig geprüft werden, anstatt von „faulen“ Reviewern, die KI-Tools verwenden, vorschnell abgelehnt zu werden. Allerdings ist es fraglich, ob diese Maßnahme tatsächlich dazu beiträgt, die Qualität des Peer-Reviews zu verbessern oder ob sie vielmehr als manipulative Taktik angesehen werden sollte. Die Entdeckung dieser Praxis hat in der wissenschaftlichen Gemeinschaft heftige Diskussionen ausgelöst. Viele Experten sind der Meinung, dass solche Manipulationen die ethischen Standards der Wissenschaft verletzen und dringend adressiert werden müssen. Einige führende Fachleute forderten bereits eine strengere Überwachung und mögliche Sanktionen für Autoren, die versteckte Anweisungen einsetzen. Es wird auch diskutiert, ob die Nutzung von KI-Tools im Peer-Review-Prozess generell strenger reguliert werden sollte, um Missbrauch zu verhindern. Die Universität Waseda beispielsweise hat in einer Erklärung dargelegt, dass sie die Integrität des Peer-Review-Prozesses hoch einschätzt und solche Praktiken nicht befürwortet. Das KAIST betonte ebenfalls, dass es ethische Standards einhält und solche Manipulationen ablehnt. In den USA haben sowohl die Columbia University als auch die University of Washington ihre Veröffentlichungspolitiken überprüft und angekündigt, Maßnahmen zu ergreifen, um solche Praktiken zu bekämpfen. Fazit: Die Verwendung versteckter KI-Anweisungen durch Forscher, um positive Bewertungen zu erzwingen, stellt eine ernsthafte Herausforderung für die Integrität des Peer-Review-Prozesses dar. Experten sehen dies als bedrohliche Praxis, die dringend adressiert werden muss. Die beteiligten Institutionen haben bereits Schritte unternommen, um solche Manipulationen zu verhindern, und es wird erwartet, dass weitere Regelungen folgen, um die Glaubwürdigkeit wissenschaftlicher Veröffentlichungen zu gewährleisten. Bewertung durch Branchenexperten: Die Praxis der Einfügung versteckter KI-Anweisungen in wissenschaftliche Arbeiten wird von vielen Fachleuten als alarmierend empfunden. Sie könnte das Vertrauen in den wissenschaftlichen Prozess erodieren und zu einer Degradierung der Qualität der Veröffentlichungen führen. Firmenprofile zeigen, dass sowohl etablierte Universitäten als auch neuere Institutionen betroffen sind, was darauf hindeutet, dass dies ein breit angelegtes Problem sein könnte. Es wird dringend eine klare Regulierung und strenge Kontrollmechanismen benötigt, um solche Manipulationen zu verhindern und die Integrität des Peer-Review-Prozesses zu schützen.