Sich gegen neuronale Fake News wehren

Neuere Fortschritte im Bereich der natürlichen Sprachgenerierung haben Bedenken bezüglich doppelter Nutzung aufgeworfen. Während Anwendungen wie die Zusammenfassung und Übersetzung von Texten positiv sind, könnte die zugrunde liegende Technologie auch Gegnern ermöglichen, neuronale Fake News zu generieren: gezielte Propaganda, die den Stil echter Nachrichten nahezu perfekt nachahmt.Moderne Computersicherheit basiert auf sorgfältiger Bedrohungsmodellierung: der Identifizierung potenzieller Bedrohungen und Schwachstellen aus der Perspektive des Gegners sowie der Erforschung möglicher Abmilderungsmaßnahmen gegen diese Bedrohungen. Ebenso erfordert die Entwicklung robuster Verteidigungsmechanismen gegen neuronale Fake News, dass wir zunächst die Risiken dieser Modelle sorgfältig untersuchen und charakterisieren. Wir stellen daher ein Modell für steuerbare Textgenerierung namens Grover vor. Gegeben eine Schlagzeile wie „Verbindung zwischen Impfstoffen und Autismus festgestellt“, kann Grover den Rest des Artikels generieren; Menschen finden diese Generierungen vertrauenswürdiger als menschlich verfasste Desinformation.Die Entwicklung robuster Verifikationstechniken gegen Generatoren wie Grover ist entscheidend. Wir feststellten, dass die besten aktuellen Diskriminatoren neuronale Fake News von echten, menschlich verfassten Nachrichten mit einer Genauigkeit von 73 % klassifizieren können, vorausgesetzt, sie haben Zugang zu einem moderaten Umfang an Trainingsdaten. Gegenüberstellungswürdig ist, dass sich die beste Verteidigung gegen Grover letztendlich als Grover selbst herausstellt, mit einer Genauigkeit von 92 %. Dies unterstreicht die Wichtigkeit der öffentlichen Veröffentlichung starker Generatoren. Wir untersuchen diese Ergebnisse weiter und zeigen, dass Expositionsfehler – und Stichprobenstrategien, die ihre Auswirkungen lindern – Artefakte hinterlassen, die ähnliche Diskriminatoren erkennen können. Abschließend diskutieren wir ethische Fragen hinsichtlich der Technologie und planen die öffentliche Veröffentlichung von Grover, um den Weg für eine bessere Erkennung neuronaler Fake News zu ebnen.