HyperAIHyperAI

Command Palette

Search for a command to run...

Gemini prüft Videos auf Google-KI-Generierung mit SynthID-Wasserzeichen

Google hat seine KI-Verifizierungsfunktion in der Gemini-App auf Videos erweitert, die mit eigenen Google-KI-Modellen erstellt oder bearbeitet wurden. Nutzer können nun einfach fragen: „Wurde dieses Video mit Google KI erstellt?“, und Gemini analysiert sowohl visuelle als auch akustische Inhalte auf das eingebettete, proprietäre Wasserzeichen SynthID. Im Gegensatz zu einfachen Ja/Nein-Antworten liefert Gemini detaillierte Hinweise, wann und wo das Wasserzeichen im Video oder Ton erscheint. Diese Funktion war bereits seit November für Bilder verfügbar, ebenfalls nur für Inhalte, die mit Google-KI erstellt wurden. Google betont, dass SynthID „unwahrnehmbar“ sei – also nicht sichtbar oder hörbar für Menschen – und daher weniger leicht zu entfernen als andere Wasserzeichen. Doch die tatsächliche Widerstandsfähigkeit gegen Manipulation bleibt ungewiss, besonders angesichts der Erfahrungen von OpenAI, bei denen die Wasserzeichen in Sora-Videos leicht entfernt wurden. Zudem fehlt bislang eine koordinierte Erkennung von KI-Inhalten über Plattformen hinweg: Während die Nano Banano-KI-Bildgenerierung in Gemini C2PA-Metadaten einbettet, gibt es keine standardisierte Praxis, um KI-generierte Inhalte systematisch zu kennzeichnen. Dadurch können Tieffake-Videos weiterhin unbemerkt verbreitet werden. Die Verifizierungsfunktion unterstützt Videos bis zu 100 MB und 90 Sekunden Länge und ist in allen Sprachen und Regionen verfügbar, in denen die Gemini-App läuft. Die Erweiterung unterstreicht Googles Bemühungen, Vertrauen in KI-Inhalte zu schaffen – allerdings bleibt die Wirksamkeit abhängig von der Akzeptanz durch andere Plattformen und die tatsächliche Robustheit des Wasserzeichens. Branchenexperten sehen die Entwicklung als wichtigen Schritt, aber mit Einschränkungen. „SynthID könnte ein nützliches Werkzeug sein, solange es breit akzeptiert wird“, sagt eine KI-Ethik-Forscherin von der Universität Zürich. „Aber ohne ein globales, standardisiertes System zur Kennzeichnung von KI-Inhalten bleibt die Gefahr von Manipulation hoch.“ Google selbst positioniert sich als führender Akteur im Bereich verantwortungsvoller KI, mit Gemini als zentraler Schnittstelle für KI-Interaktionen. Die Firma hat in den letzten Jahren mehrere KI-Tools entwickelt, darunter Imagen für Bildgenerierung und Veo für Videoerstellung. Die Integration von SynthID und C2PA zeigt ein klares Bekenntnis zur Transparenz – doch die tatsächliche Wirkung hängt davon ab, ob andere Unternehmen wie Meta, TikTok oder X diese Standards übernehmen. Bis dahin bleibt die Verifizierung durch Gemini eine einzelne, aber wichtige Maßnahme im Kampf gegen die Verbreitung gefälschter Inhalte.

Verwandte Links

Gemini prüft Videos auf Google-KI-Generierung mit SynthID-Wasserzeichen | Aktuelle Beiträge | HyperAI