Ein Softwareentwickler behauptet, das SynthID-Wasserzeichensystem von Google DeepMind erfolgreich analysiert und modifiziert zu haben. Der Entwickler, der unter dem Nutzernamen Aloshdenny bekannt ist, veröffentlichte seine Ergebnisse auf GitHub und beschrieb einen Prozess, bei dem er etwa 200 mit dem Gemini-Modell erzeugte Bilder analysierte. Er behauptet, durch Signalverarbeitung und die Identifizierung spezifischer Pixelmuster in rein schwarzen Bereichen von Bildern in der Lage gewesen zu sein, das Wasserzeichen zu verwirren oder es sogar manuell in andere Werke einzufügen. SynthID ist ein nahezu unsichtbares System zur Kennzeichnung von Inhalten, das von Google bei der Erstellung von Bildern eingebettet wird. Es ist darauf ausgelegt, robust zu sein und die Bildqualität nicht zu beeinträchtigen, selbst wenn versuche unternommen werden, es zu entfernen. Das System wird derzeit in verschiedenen Google-Produkten eingesetzt, darunter Modelle wie Nano Banana und Veo 3, sowie für KI-generierte Klone auf YouTube. Laut Aloshdenny erforderte die Analyse keine proprietären Zugriffsmöglichkeiten oder neuronale Netze, sondern lediglich viel Freizeit und analytische Fähigkeiten. In seinen Tests konnte er das Wasserzeichen zwar nicht vollständig löschen, aber die Dekodierungssoftware von Google so verwirren, dass sie keine Wasserzeichen mehr erkannte. Der Entwickler bezeichnete die Ingenieursleistung von Google als ernsthaft gut, räumte jedoch ein, dass SynthID nicht perfekt und auch nicht unknackbar sei. Sein Ziel sei es nicht gewesen, das System zu brechen, sondern die Kosten für einen Missbrauch so hoch zu gestalten, dass die meisten Nutzer davon absehen würden. Google bestreitet die Aussage des Entwicklers entschieden. Ein Unternehmenssprecher erklärte, es sei falsch zu behaupten, dass das veröffentlichte Werkzeug SynthID-Wasserzeichen systematisch entfernen könne. Stattdessen betonte Google, dass SynthID ein robustes und wirksames Werkzeug zum Schutz von KI-generierten Inhalten darstellt. Bisher gibt es keine unabhängigen Belege dafür, dass das Wasserzeichen von nicht-technischen Nutzern einfach entfernt oder gefälscht werden kann. Die Veröffentlichung des Projekts hat jedoch die Debatte über die Wirksamkeit von Wasserzeichen in der KI-Technologie neu angefacht und gezeigt, dass selbst fortschrittliche Systeme potenzielle Schwachstellen aufweisen könnten, wenn sie von erfahrenen Entwicklern analysiert werden.