Meta startet KI-Erkennung statt Googles SynthID

Meta hat im Juli mit Content Seal ein proprietäres System zur unsichtbaren Kennzeichnung KI-generierter Bilder eingeführt. Die Maßnahme folgt einem direkten Aufruf des Meta-Oversight Boards aus dem März, das das Unternehmen zur Nutzung eigener Werkzeuge aufforderte, um die Verbreitung täuschender KI-Inhalte einzudämmen. Trotz formeller Umsetzung bleibt Content Seal mit erheblichen technischen und strategischen Defiziten behaftet, die die Effektivität der Lösung infrage stellen. Das Wasserzeichensystem ist konzeptionell Google SynthID und dem Industriestandard C2PA Content Credentials nachempfunden, setzt jedoch auf abgeschottete, eigene technische Spezifikationen. Während Konkurrenten wie OpenAI SynthID aktiv übernehmen, verzichtet Meta auf eine Kompatibilität mit etablierten Branchenlösungen. Dies führt zu einer fragmentierten Landschaft, da Content Seal außerhalb der Meta-Plattformen kaum erkannt wird und Tests von Reuters belegen, dass das Wasserzeichen nach einfachem Zuschneiden oder Komprimieren häufig nicht mehr detektierbar ist. Die Nutzererfahrung bleibt bisher eingeschränkt. Die Erkennung ist ausschließlich über ein separates Web-Tool verfügbar, das tägliche Anfragegrenzen auferlegt, um potenziellen Missbrauch zu verhindern. Eine Integration in Meta AI, Facebook oder Instagram wurde bisher nicht realisiert. Zudem unterstützt das System ausschließlich Bilder des neuesten KI-Modells Muse; Videos sowie ältere Generierungstools werden nicht erfasst. Meta gibt an, die Erkennung näher an die Nutzer bringen zu wollen, bietet jedoch bisher keine zeitnahen Alternativen. Strategisch wirkt die Einführung überstürzt und widersprüchlich. Instagram-Chef Adam Mosseri betonte kürzlich, Authentizität werde in einer von synthetischen Inhalten dominierten Welt an Wert gewinnen, verwies gleichzeitig aber auf die Unpraktikabilität des Filterns von KI-Inhalten. Stattdessen propagiere man die Kennzeichnung, was die mangelnde Zuverlässigkeit des eigenen Systems impliziert. Da Meta bereits seit 2023 KI-Produkte veröffentlicht und im Vorfeld zu Fehler bei der Kennzeichnung echter Fotos führte, bleibt die Nachrüstung mit Content Seal als Insellösung weit hinter den Anforderungen an industrielle Transparenz zurück. Ohne Übernahme eines offenen Standards oder eine signifikante Verbesserung der Detektionsgenauigkeit bleibt Content Seal eine redundante Maßnahme. Nutzer erhalten keinen Mehrwert gegenüber etablierten Lösungen, sondern müssen zusätzliche Hürden akzeptieren. Für Meta bedeutet dies, dass die Plattform bis dato weder die Rolle des umfassenden KI-Produzenten noch die einer verlässlichen Identifikationsinstanz glaubwürdig einnehmen kann.