Italiens Datenschutzbehörde hat am Donnerstag Nutzer und Anbieter von Künstlicher Intelligenz (KI)-Tools gewarnt, insbesondere gegenüber Elon Musks Chatbot Grok, wegen der Gefahr, dass diese Deepfake-Bilder aus echten Inhalten erstellen können, ohne die Zustimmung der abgebildeten Personen. Die Aufsichtsbehörde unterstrich, dass die Nutzung von KI zur Erzeugung manipulierter Inhalte, die Personen täuschend echt darstellen, erhebliche Datenschutz- und Rechtsrisiken birgt. Besonders besorgniserregend sei, dass solche Inhalte oft ohne Wissen oder Zustimmung der betroffenen Personen erstellt werden können – ein klarer Verstoß gegen das italienische Datenschutzgesetz und die allgemeinen Grundsätze der DSGVO. Die Behörde betonte, dass KI-Anbieter verpflichtet seien, Transparenz zu gewährleisten, die Herkunft von Inhalten nachvollziehbar zu machen und Mechanismen zur Verhinderung missbräuchlicher Nutzung einzubauen. Insbesondere Grok, der von Musk’s X-Plattform (früher Twitter) betrieben wird, wurde aufgrund seiner Fähigkeit, visuelle Inhalte zu generieren, in die Kritik geraten. Obwohl Musk und sein Team behaupten, dass die KI-Modelle auf ethischen Grundsätzen basieren, fehlt nach Ansicht der italienischen Behörde eine ausreichende Kontrolle und Verantwortlichkeit. Die Warnung ist Teil einer breiteren internationalen Debatte über die Regulierung von KI, insbesondere im Hinblick auf die Verbreitung von Falschinformationen und die Verletzung der Persönlichkeitsrechte. Die italienische Aufsichtsbehörde fordert von allen KI-Anbietern, sich an bestehende Datenschutzvorschriften zu halten, und kündigte an, bei Verstößen rechtliche Schritte einzuleiten. Die Empfehlung richtet sich nicht nur an Grok, sondern an alle Anbieter von KI-Tools, die Inhalte generieren, die auf realen Bildern oder Daten basieren. Die Behörde rät zudem den Nutzern, vorsichtig zu sein und die Quellen von KI-erzeugten Inhalten zu überprüfen, um sich vor Manipulationen zu schützen. Experten aus der KI- und Datenschutzbranche begrüßen die Warnung als wichtigen Schritt zur Verantwortung von Technologieunternehmen. „Die fehlende Kontrolle über Deepfakes ist eine der größten Herausforderungen der KI-Ära“, sagt Dr. Elena Rossi, Datenschutzforscherin an der Universität Bologna. „Ohne klare Regeln und Transparenz droht die Technologie, die Privatsphäre und die Glaubwürdigkeit der digitalen Öffentlichkeit zu untergraben.“ Grok, der auf dem Llama-Modell von Meta basiert, wird von Musk als fortschrittlich und sicher präsentiert, doch die italienische Behörde sieht in der Praxis Lücken in der Umsetzung. Unternehmen wie OpenAI, Google und Meta stehen ebenfalls unter Druck, ihre KI-Modelle sicherer zu gestalten. Die italienische Initiative könnte als Vorbild für andere EU-Länder dienen, die ihre eigenen Regulierungsmaßnahmen gegen KI-Missbrauch entwickeln.