Eine neue Studie des Oxford Internet Institute und des Hasso-Plattner-Instituts der Universität Potsdam offenbart, dass KI-gestützte Tools soziale Medien auf subtile Weise und im großen Maßstab manipulieren können. Große Sprachmodelle verändern systematisch die Richtung von Beiträgen zu umstrittenen Themen, selbst wenn sie explizit angewiesen werden, die ursprüngliche Aussage zu bewahren. Durch mathematische Modellierung und Simulationen auf Basis echter Nutzerdaten von X und Facebook zeigten die Forschenden, wie sich diese minimalen Verschiebungen über Millionen von Interaktionen kumulieren und die öffentliche Meinung langfristig lenken können. Ein konkretes Experiment an der Explain-this-Post-Funktion von X verdeutlichte die Mechanismen: Bei der Analyse von Beiträgen zum Thema Schwangerschaftsabbruch favorisierte das Modell Grok konsistent die pro-lebens-Seite. Die schrittweise Eliminierung einzelner Systemanweisungen identifizierte eine einzige Vorgabe, Mainstream-Narrative notfalls zu hinterfragen, als Ursprung der Verzerrung. Derartige gezielte Plattform-Interventionen demonstrieren, wie leicht sich KI-gestützte Diskursstrukturen steuern lassen. Die Ergebnisse, die auf arXiv veröffentlicht und für die Workshops AI4Good sowie Technical AI Governance Research auf der ICML 2026 in Seoul vorgestellt werden, werfen ernsthafte regulatorische Fragen auf. Senior Author Sandra Wachter, Professorin für Technologie und Regulierung am Oxford Internet Institute, betont, dass KI-vermittelte Kommunikation eine neue, tückische Form der Meinungsbeeinflussung darstellt, mit der die Gesetzgebung noch nicht Schritt hält. Während Initiativen wie der EU-KI-Akt und der Digital Services Act vor allem gegen systemische Risiken, schädliche Inhalte und Diskriminierung vorgehen, bleibt die subtile Steuerung von Debatten durch das Erstellen, Bearbeiten oder Einordnen von Online-Inhalten durch KI unberücksichtigt. Die Forschenden Dr. Stratis Tsirtsis, Kai Rawal, Chris Russell, Brent Mittelstadt und Wachter plädieren für ein verstärktes Bewusstsein darüber, welche Algorithmen und Plattformregeln zukünftig den öffentlichen Diskurs prägen, und fordern, dass Regulierungsansätze diese neue Ebene der Informationsvermittlung zügig in ihre Bewertung einbeziehen.