Anthropic entwickelt System zum KI-Identitätsnachweis

Anthropic hat das Open-Source-System FlashProve veröffentlicht, um das Problem zu lösen, dass Nutzer nur schwer nachvollziehen können, welches Modell die jeweiligen KI-Antworten generiert hat. Bei der Nutzung dieses Systems veröffentlichen die Modellanbieter zunächst verschlüsselte „Fingerabdrücke“ der entsprechenden Modellgewichte und generieren anschließend für spezifische Eingaben und Ausgaben Nachweise. Personen, die im Besitz des Fingerabdrucks, der Eingabe und der Antwort sind, können diese Nachweise überprüfen, ohne die Modellgewichte zu benötigen oder das Modell erneut ausführen zu müssen. Forscher sind der Ansicht, dass dieser Ansatz des „verifizierbaren Schließens“ (Verifiable Reasoning) Nutzern dabei helfen kann, zu erkennen, ob Dienstleister das Modell im Hintergrund austauschen. Er lässt sich auch nutzen, um Aussagen Dritter zu überprüfen, wie etwa die Behauptung, Code mit einem bestimmten Modell geprüft zu haben. Anthropic hat einen technischen Bericht, eine Protokollspezifikation sowie den Open-Source-Code veröffentlicht, damit die Öffentlichkeit diese überprüfen und verbessern kann. Die Erstellung der Nachweise ist jedoch nicht kostenlos. In Tests mit einem großen Open-Source-Modell des Unternehmens betrug die Größe jedes Nachweises etwa 19 MB, und die zur Generierung benötigte GPU-Zeit lag beim 70- bis 95-fachen der Zeit für eine normale Inferenz. Die Überprüfung selbst kann auf Geräten ohne GPU durchgeführt werden. Anthropic betont, dass es sich lediglich um ein Zwischenstadium der Forschung handelt und die Bereitstellung von FlashProve im Claude-Dienst noch nicht angekündigt wurde. Das System verifiziert, ob das angegebene Modell die entsprechende Ausgabe erzeugt hat, garantiert jedoch nicht die Richtigkeit der Antwort selbst.