In den letzten Monaten hat die Google Threat Intelligence Group (GTIG) zunehmend kriminelle Nutzung von Künstlicher Intelligenz (KI) durch Angreifer beobachtet. Diese Aktivitäten umfassen die automatisierte Sammlung von Informationen, die Erstellung hochrealistischer Phishing-Angriffe sowie die Entwicklung von Malware, die durch KI-Technologien effizienter und schwerer zu erkennen ist. Obwohl bisher keine direkten Angriffe auf fortschrittliche KI-Modelle oder generative KI-Produkte durch fortgeschrittene dauerhafte Bedrohungsgruppen (APT) nachgewiesen wurden, hat Google zahlreiche sogenannte Modellextraktionsschläge identifiziert – eine Form von Unternehmensspionage, bei der Angreifer versuchen, geheime KI-Modelle durch gezielte Abfragen zu kopieren oder zu rekonstruieren. Solche Angriffe stammen aus dem privaten Sektor weltweit und stellen eine zunehmende Bedrohung für Unternehmen dar, die eigene KI-Modelle entwickeln oder einsetzen. Um diese Bedrohungen zu bekämpfen, hat Google umfassende Maßnahmen ergriffen. Dazu gehören die Deaktivierung betroffener Konten, um die Aktivitäten von Angreifern zu unterbrechen, sowie die Stärkung der Sicherheitskontrollen innerhalb der Google Cloud-Infrastruktur. Zudem wurden die Gemini-Modelle speziell gegen Missbrauch optimiert, indem Angriffsvektoren wie Datenlecks, Abfrageüberlastung und gezielte Auswertung von Modelausgaben abgesichert wurden. Die Ergebnisse dieser Bemühungen sind in einem neuen Bericht dokumentiert, der auf dem Google Cloud Threat Intelligence Blog veröffentlicht wurde. Die Beobachtungen zeigen, dass KI nicht nur als Werkzeug für Innovation dient, sondern zunehmend als Waffe im Cyberkrieg eingesetzt wird. Angreifer nutzen KI, um menschliche Verhaltensmuster zu imitieren, personalisierte Angriffe zu erstellen und Sicherheitsmaßnahmen zu umgehen. Die zunehmende Verfügbarkeit von KI-Tools macht es auch weniger erfahrenen Akteuren möglich, komplexe Angriffe durchzuführen – was die Bedrohungslandschaft weiter verschärft. Branchenexperten warnen, dass Unternehmen, die KI-Modelle nutzen, dringend eine robuste Sicherheitsstrategie entwickeln müssen, die nicht nur auf der Modellentwicklung, sondern auch auf der Verwahrung, Nutzung und Überwachung basiert. Die Modellextraktion ist dabei ein besonders kritischer Risikofaktor, da sie ohne physischen Zugriff auf Systeme erfolgen kann. Experten betonen, dass eine proaktive Sicherheitskultur, kontinuierliche Überwachung und die Integration von KI-Sicherheit in den gesamten Lebenszyklus von Modellen unerlässlich sind. Google positioniert sich mit diesen Maßnahmen als führender Anbieter im Bereich sicherer KI-Infrastruktur und setzt einen Standard für andere Tech-Unternehmen.