UC Riverside-Forscher haben ein neues KI-System namens UNITE entwickelt, das manipulierte Videos identifiziert, auch wenn diese nicht nur Gesichter verfälschen, sondern auch Hintergründe oder vollständig künstlich generierte Inhalte enthalten. Traditionelle Deepfake-Erkennungssysteme konzentrieren sich meist auf Gesichter und können nicht funktionieren, wenn kein Gesicht im Video sichtbar ist. UNITE hingegen analysiert ganze Videoframes, einschließlich Hintergründe und Bewegungsmuster, und ist somit eines der ersten Werkzeuge, das solche Manipulationen erkennen kann, ohne auf Gesichter angewiesen zu sein. Der Professor Amit Roy-Chowdhury und der Doktorand Rohit Kundu vom Marlan und Rosemary Bourns College of Engineering arbeiteten mit Google-Wissenschaftlern zusammen, um das System zu entwickeln. Die Forschung wurde auf dem arXiv-Server veröffentlicht und bei der CVPR 2025 vorgestellt. Das System nutzt einen Transformer-basierten Deep-Learning-Modell und eine neue Trainingsmethode namens „attention-diversity loss“, um mehrere visuelle Regionen gleichzeitig zu überwachen. Dadurch kann es auch komplexe Fälschungen erkennen, die aus Text oder Bildern generiert wurden. UNITE könnte in Zukunft für soziale Medien, Fact-Check-Organisationen und Nachrichtenredaktionen von Bedeutung sein, um manipulierte Videos zu erkennen und zu verhindern, dass sie viral gehen. Kundu betonte, dass die Technologie immer besser werde, um die Realität zu fälschen, und dass es wichtig sei, die Wahrheit besser zu erkennen. UNITE ist ein bedeutendes Fortschritt in der KI-basierten Video-Erkennung und wurde von der Zusammenarbeit mit Google ermöglicht, die Zugang zu umfangreichen Datensätzen und Rechenressourcen bot. Das System ist in der Entwicklung und könnte künftig eine Schlüsselrolle bei der Bekämpfung von Video-Desinformation spielen. Es ist ein universeller Detektor, der in der Lage ist, eine Vielzahl von Fälschungen zu erkennen, und hat das Potenzial, die Sicherheit im digitalen Raum zu erhöhen. Die Forscher hoffen, dass es in Zukunft in verschiedenen Bereichen eingesetzt wird, um die Verbreitung von Falschinformationen einzudämmen.