HyperAIHyperAI

Command Palette

Search for a command to run...

Konsole
vor 4 Tagen

iSeal: Verschlüsselte Fingerabdruckverifizierung für zuverlässige Eigentumsüberprüfung von LLMs

Zixun Xiong Gaoyi Wu Qingyang Yu Mingyu Derek Ma Lingfeng Yao Miao Pan Xiaojiang Du Hao Wang

iSeal: Verschlüsselte Fingerabdruckverifizierung für zuverlässige Eigentumsüberprüfung von LLMs

Abstract

Angesichts der hohen Kosten für die vollständige Neuentwicklung großer Sprachmodelle (Large Language Models, LLM) ist der Schutz des geistigen Eigentums (Intellectual Property, IP) von LLMs zunehmend von entscheidender Bedeutung. Als Standardansatz zur Überprüfung der Eigentumsrechte spielt daher die LLM-Fingerabdrucktechnik (LLM fingerprinting) eine zentrale Rolle bei der Bewältigung dieser Herausforderung. Bisherige Methoden zum LLM-Fingerabdruck überprüfen die Eigentümerschaft, indem sie modellspezifische Merkmale extrahieren oder einbetten. Sie berücksichtigen jedoch potenzielle Angriffe während des Überprüfungsprozesses und sind daher wirkungslos, wenn der Modelldieb die gesamte Inferenzprozesskontrolle über das LLM besitzt. In solchen Szenarien können Angreifer Prompt-Antwort-Paare teilen, um das Auslernen des Fingerabdrucks zu ermöglichen, oder die Ausgaben manipulieren, um die exakte Übereinstimmungsüberprüfung zu umgehen. Wir stellen iSeal vor – die erste Fingerabdruckmethode, die speziell für eine zuverlässige Überprüfung konzipiert ist, wenn der Modelldieb das verdächtige LLM in einer end-to-end-Weise kontrolliert. iSeal integriert eindeutige Merkmale sowohl in das Modell selbst als auch in ein externes Modul und stützt sich dabei auf eine Fehlerkorrekturmechanik sowie eine auf Ähnlichkeit basierende Überprüfungsstrategie. Diese Komponenten sind widerstandsfähig gegenüber Angriffen zur Überprüfungszeit, einschließlich kollektiver Angriffe zum Auslernen des Fingerabdrucks und Manipulationen der Ausgaben. Die Robustheit von iSeal wird sowohl durch theoretische Analysen als auch durch empirische Ergebnisse belegt. iSeal erreicht eine Fingerprint Success Rate (FSR) von 100 % bei 12 verschiedenen LLMs gegenüber mehr als 10 Angriffstypen, während die Baseline-Methoden bei Angriffen zum Auslernen und zur Ausgabemanipulation versagen.

KI mit KI entwickeln

Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.

KI-Co-Coding
Sofort einsatzbereit GPUs
Beste Preise
Jetzt starten

Hyper Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
iSeal: Verschlüsselte Fingerabdruckverifizierung für zuverlässige Eigentumsüberprüfung von LLMs | Forschungsarbeiten | HyperAI