OpenAI blockt大规模推理提取aktion

OpenAI hat am 30. September offengelegt, dass das Unternehmen eine groß angelegte „adversarial distillation“-Aktion entdeckt und unterbunden hat. Die entsprechenden Aktivitäten traten erstmals am 1. Juli auf. Die Betreiber versuchten durch systematische Modellabfragen, geschützte Schlussfolgerungen zu extrahieren, die in normalen Antworten nicht angezeigt werden, um diese zum Trainieren, Kopieren oder Verbessern anderer Modelle zu nutzen. Vom 24. bis 25. Juli registrierte OpenAI etwa 16.000 damit zusammenhängende Anfragen von über 4.000 Nutzern. Weitere Untersuchungen ergaben, dass ähnliche Prompt-Muster über 15.000 Nutzer betrafen. Das Unternehmen schloss die Bearbeitung bis zum 28. Juli ab. Die Angriffsmethode umfasste das Kopieren verschlüsselter Schlussfolgerungen aus einem Dialog und die anschließende Aufforderung an ein Modell in einem anderen Dialog, deren Inhalt zu entschlüsseln und zu transkribieren. OpenAI betonte, dass die Betreiber weder die Verschlüsselung geknackt, Datenbanken infiltriert noch direkt auf gespeicherte Nutzerdialoge zugegriffen haben. Das Unternehmen kann noch nicht bestätigen, ob alle Aktivitäten von derselben Quelle stammen, führt jedoch einen der zentralen Cluster auf Personen zurück, die mit Moonshot AI, dem Entwickler von Kimi, in Verbindung stehen. OpenAI hat die betreffenden Konten gesperrt oder eingeschränkt, die Registrierung, Infrastruktur und Streaming-Ausgabe-Erkennung verstärkt sowie Pfade zur Wiedergabe verschlüsselter Schlussfolgerungen über Nutzer, Arbeitsbereiche und Modelle hinweg repariert. Die relevanten Informationen wurden zudem über das Frontier Model Forum und staatliche Informationsaustauschkanäle an Partner weitergegeben.