Anthropic erläutert KI-Wasserzeichen nach EU-Vorgaben

Anthropic hat den gezielten Einsatz von Wasserzeichen für die Textausgaben des KI-Modells Claude angekündigt, um regulatorischen Vorgaben zu entsprechen und die Transparenz von KI-generierten Inhalten zu erhöhen. Die Entscheidung folgt primär den Compliance-Anforderungen der europäischen KI-Verordnung, die auch außerhalb der EU Auswirkungen zeigt. Da eine regionalspezifische Einschränkung technologisch noch nicht ausreichend stabil ist, wird die Maßnahme weltweit eingeführt. Der Rollout beginnt mit neuen Claude-Modellen und soll in den kommenden Monaten auf bestehende Systeme ausgeweitet werden. Die Technologie basiert auf einem 2024 von Google DeepMind veröffentlichten Verfahren, das Wasserzeichen nicht durch unsichtbare Zeichen oder Formatierungen, sondern durch subtile Muster in der Wortwahl einbettet. Da die KI bei der Generierung von Texten zufällig zwischen nahen Begriffen entscheidet, erkennt ein kryptografischer Schlüssel statistische Abweichungen von rein zufälligen Mustern. Der eigentliche Schlüssel ist derzeit noch nicht öffentlich zugänglich, Anthropic plant jedoch die Veröffentlichung einer API, die es externen Nutzern und Dritten ermöglicht, Ausgaben auf das Vorhandensein des Wasserzeichens zu überprüfen. Das Unternehmen betont ausdrücklich die technischen Grenzen des Systems. Die Zuverlässigkeit der Erkennung steigt mit der Textlänge, da mehr Entscheidungspunkte verarbeitet werden. Bei fachlich präzisen Passagen oder Programmcode wird das Wasserzeichen seltener eingesetzt, da falsche Wortwahl die inhaltliche Korrektheit oder Funktionalität gefährden könnte. Ein Wasserzeichen allein weise nur die Beteiligung von Claude aus, nicht die vollständige KI-Produktion. Auch werden durch die Kennzeichnung keine Eigentums- oder Nutzungsrechte des Nutzers beeinträchtigt. Leichtes Bearbeiten entferne das Signal in der Regel nicht, während ein vollständiges Umschreiben, bei dem jeder Begriff ersetzt wird, die Zuordnung aufheben könnte. Nach der ersten Bekanntgabe der Pläne kam es vereinzelt zu Kundenabschlüssen, was Anthropic jedoch mit einem signifikanten Anstieg der Abmeldungen widerspricht. Die Einführung markiert einen weiteren Schritt in der regulatorisch getriebenen Transparenzdebatte, die auch Mitbewerber wie OpenAI erfasst hat, wo ebenfalls entsprechende Kennzeichnungssysteme vorbereitet werden. Mit der technischen Umsetzung geht Anthropic den Versuch, KI-Generierung nachvollziehbar zu machen, ohne die Sprachqualität oder Benutzerfreundlichkeit der Tools nennenswert zu beeinträchtigen. Die praktische Akzeptanz und die langfristige Wirksamkeit der Maßnahme gegen Textmanipulation bleiben jedoch vorerst eine offene Frage, deren Beantwortung von der breiten Implementierung der Prüf-Infrastruktur und der weiteren Gesetzgebung abhängt.