Google hat bekannt gegeben, dass Angreifer in einem massiven Angriff versucht haben, das KI-Modell Gemini über 100.000 Mal zu kopieren, indem sie es gezielt mit Anfragen überlasteten. Ziel war es, die Leistungsfähigkeit des Modells durch eine Technik namens „Knowledge Distillation“ zu replizieren – eine Methode, bei der ein kleineres, kostengünstigeres Modell durch Lernen aus den Ausgaben eines größeren, leistungsstarken Modells trainiert wird. Durch die wiederholten Abfragen wollten die Angreifer die internen Entscheidungsprozesse und Muster des Originalmodells auskundschaften, um eine kostengünstige Kopie zu erstellen, die annähernd dieselbe Leistung erbringt, aber nur einen Bruchteil der Entwicklungskosten benötigt. Google betont, dass die Angriffe Teil eines größeren Trends sind, bei dem Cyberkriminelle und Konkurrenten versuchen, geistiges Eigentum von KI-Modellen zu stehlen. Die „Knowledge Distillation“-Technik ist besonders gefährlich, da sie es ermöglicht, hochentwickelte KI-Systeme zu imitieren, ohne die Ressourcen für die komplette Neuentwicklung aufwenden zu müssen. Die Tatsache, dass die Angreifer über 100.000 Anfragen abgesetzt haben, zeigt, wie ernst die Bedrohung für die Sicherheit von KI-Modellen geworden ist – insbesondere für Unternehmen, die erhebliche Investitionen in Forschung und Entwicklung leisten. Um die Bedrohung abzuwehren, hat Google neue Sicherheitsmaßnahmen implementiert, darunter Anfragemustererkennung, Rate-Limiting und die Einführung von „Fehler-Feedback“-Mechanismen, die bewirken, dass das Modell gezielt irreführende oder ungenaue Antworten liefert, wenn es verdächtigen Anfragen ausgesetzt ist. Diese Strategie soll die Effizienz von Nachahmungsversuchen verringern, ohne die Benutzererfahrung zu beeinträchtigen. Die Vorfälle unterstreichen die wachsende Bedeutung von KI-Sicherheit in der digitalen Ära. Während KI-Modelle wie Gemini immer leistungsfähiger werden, steigt auch das Interesse an ihrer Reproduktion durch Dritte. Unternehmen müssen nicht nur in die Entwicklung innovativer Modelle investieren, sondern auch in robuste Schutzmechanismen, um ihre Forschungsergebnisse vor Diebstahl zu bewahren. Branchenexperten sehen die Vorfälle als Warnsignal: „Die Zeiten, in denen man KI-Modelle einfach veröffentlichen und auf deren Nutzung vertrauen konnte, sind vorbei“, sagt eine KI-Sicherheitsexpertin von einem führenden Tech-Institut. „Die Herausforderung besteht nun darin, gleichzeitig Innovation und Schutz zu balancieren.“ Google, das mit Gemini eine der führenden KI-Plattformen entwickelt hat, positioniert sich damit als Vorreiter im Kampf gegen KI-Plagiat. Die Firma hat zudem eine eigene Forschungsgruppe zur KI-Sicherheit eingerichtet, die sich auf die Entwicklung von Methoden zur Erkennung und Verhinderung von Nachahmungsversuchen konzentriert. Die Ereignisse zeigen, dass der Wettbewerb um KI-Führung nicht nur technologisch, sondern auch sicherheits- und ethisch geprägt ist.