Das Erkennen von Deepfakes ohne jemals ein Bild gesehen zu haben

Deepfake-Angriffe, böswillige Manipulationen von Medieninhalten mit Menschen, stellen eine ernsthafte Herausforderung für die Gesellschaft dar. Konventionelle Deepfake-Erkennungsmethoden trainieren überwachte Klassifizierer, um echte Medien von bisher bekannten Deepfakes zu unterscheiden. Solche Ansätze können lediglich Deepfakes erkennen, die Ähnlichkeit mit bereits gesehenen Angriffstypen aufweisen, jedoch keine Zero-Day-Angriffe (bisher nicht gesehene Angriffstypen). Angesichts der rasanten Entwicklung aktueller Deepfake-Generierungstechniken werden ständig neue Angriffsmuster vorgestellt, was dieses Problem zu einer zentralen Herausforderung macht. Unsere zentralen Beobachtungen sind: i) Bei vielen effektiven Deepfake-Angriffen müssen die manipulierten Medien stets von falschen Fakten begleitet sein, d. h. von Behauptungen über Identität, Sprache, Bewegung oder Erscheinungsbild der betroffenen Person. Beispielsweise behauptet ein Angreifer beim Nachahmen von Obama explizit oder implizit, dass die gefälschten Medien Obama zeigen; ii) Aktuelle generative Techniken können die von Angreifern behaupteten falschen Fakten nicht perfekt synthetisieren. Aus diesem Grund führen wir den Begriff des „Faktenchecks“ ein, angelehnt an Methoden zur Erkennung von Fake News, um Zero-Day-Deepfake-Angriffe zu detektieren. Der Faktencheck prüft, ob die behaupteten Fakten (z. B. „Identität ist Obama“) mit den beobachteten Medien (z. B. „Ist das Gesicht wirklich das von Obama?“) übereinstimmen, und ermöglicht so die Unterscheidung zwischen echten und gefälschten Medien. Daraus leiten wir FACTOR ein – ein praktisches Vorgehen für den Deepfake-Faktencheck – und demonstrieren dessen Wirksamkeit in kritischen Angriffsszenarien: Gesichtsaustausch und audiovisuelle Synthese. Obwohl FACTOR ohne Training auskommt, ausschließlich auf Standardmerkmalen basiert, äußerst einfach umzusetzen ist und keinerlei Deepfakes während der Entwicklung sieht, erreicht es eine Genauigkeit, die die aktuell besten Ansätze übertrifft.