Meta weist bei der Überprüfung synthetischer Medien eine erhebliche Lücke in der eigenen Technologie auf. Wie Reuters in einer technischen Untersuchung feststellte, scheiterte der hauseigene KI-Bilderkennungsdetektor daran, einige der von Meta selbst generierten Bilder als künstlich erzeugt zu klassifizieren. Der Nachweisversag trat ausschließlich auf, nachdem die entsprechenden Bilder zugeschnitten wurden. Dieser Befund verdeutlicht die technischen Grenzen aktueller Moderationswerkzeuge gegenüber einfachen Bildmanipulationen. Die Unfähigkeit des Systems, eigene Inhalte nach einer Reduzierung des Bildausschnitts wiederzuerkennen, unterstreicht das Spannungsverhältnis zwischen der raschen Entwicklung generativer KI-Modelle und der entsprechenden Verifizierungsinfrastruktur. Die Erkenntnisse deuten darauf hin, dass aktuelle Erkennungsalgorithmen noch nicht ausreichend robust gegen grundlegende pixelbasierte Veränderungen sind. Meta sieht sich somit in der Pflicht, die Detektionsmechanismen weiter zu optimieren, um verlässliche Nachweise für KI-generierte Inhalte zu gewährleisten. Die Untersuchung markiert einen wichtigen Hinweis für die Tech-Branche, dass KI-Nachweislösungen aktuell noch nicht als verlässlicher Standard zur Eindämmung von Deepfakes eingesetzt werden können, ohne parallel an ihrer Unempfindlichkeit gegenüber einfachen Bearbeitungsschritten zu arbeiten.