Claude-Wasserzeichen von Anthropic löst Tech-Kritik aus

Anthropic hat angekündigt, ausgewählte Claude-Modelle mit einem unsichtbaren digitalen Wasserzeichen auszustatten, das seit dem 2. August global auf den unterstützten Plattformen aktiv ist. Die Maßnahme, bei der der Markierungscode in den Textausgaben verankert bleibt und selbst bei Kopien oder leichten Bearbeitungen erhalten bleibt, dient primär der Compliance mit der europäischen KI-Verordnung. Zudem soll die Transparenz im Umgang mit automatisiert generierten Inhalten gestärkt werden. Die Entscheidung stieß jedoch auf erheblichen Widerstand innerhalb der Tech-Community. Kritiker wie der Technologieinvestor Bill Gurley warnen vor einem Machtmonopol, da zunächst nur Anthropic selbst die Wasserzeichen verifizieren könne. Das Unternehmen bezeichnete sich damit de facto als Richter und Staatsanwaltschaft in Fragen der KI-Nachverfolgbarkeit. Als Antwort plant Anthropic die Bereitstellung einer kostenlosen Application Programming Interface, die Nutzern und Drittanbietern die eigenständige Prüfung von Texten ermöglichen soll. Darüber hinaus bestehen Bedenken hinsichtlich der praktischen Anwendbarkeit und rechtlichen Implikationen. Entwickler und Rechtsexperten wie Steven Sinofsky und John Crickett thematisieren Datenschutzfragen sowie die komplexe Rechtslage beim Urheberrecht, falls nachweisbar ist, dass KI-Systeme an der Erstellung beteiligt waren. Auch die technische Funktionsweise wirft Fragen auf: Wenn Claude lediglich zur Grammatikprüfung oder Zusammenfassung eingesetzt wird, könnte der verbleibende Wasserzeichen-Code dazu führen, dass menschlich verfasste Texte fälschlicherweise als KI-generiert eingestuft werden. Anthropic versichert hingegen, dass die Markierung weder die Sprachqualität noch die semantische Integrität der Ausgaben beeinträchtige und klar zwischen vollständiger Generierung und reiner Textverarbeitung differenziere. Die Einführung von Wasserzeichen positioniert Anthropic im Wettbewerb der führenden KI-Labore. Sowohl Google mit SynthID als auch OpenAI setzen bereits vergleichbare Technologien für Text, Bilder und Audio ein. Auch soziale Netzwerke wie X markieren KI-generierte Inhalte. Während einige Branchenakteure die Maßnahme als notwendigen Schritt gegen die Degradation von KI-Modellen durch das Training auf selbstgenerierten Daten begrüßen, steht die Praxis der alltäglichen KI-Nutzung künftig unter stärkerer Beobachtung. Die Tech-Branze erwartet nun, wie sich die technische Implementierung der API in der Praxis bewährt und ob die regulatorischen Anforderungen der EU-Verordnung nachhaltig ohne ungewollte Nebeneffekte umgesetzt werden können.