Elon Musk’s artificial intelligence venture xAI hat Mitarbeiter dazu verpflichtet, ihre biometrischen Daten – einschließlich Gesicht und Stimme – bereitzustellen, um die Entwicklung der AI-Kompanion-Ani zu unterstützen. Laut einem Bericht der Wall Street Journal wurde dies im April in einer internen Besprechung durch die xAI-Anwältin Lily Lim bekannt gegeben. Ani, eine Anime-Avatar mit blonden Zöpfen und einem expliziten, erwachsenen Kontext, wurde im Sommer als Teil des $30-Monats-Abonnements „SuperGrok“ für die Plattform X lanciert. Die Verge-Kritikerin Victoria Song beschrieb den Chatbot als „eine moderne Version einer Telefon-Sex-Linie“. Die Mitarbeiter, die als AI-Tutoren fungierten, wurden aufgefordert, Datenschutzvereinbarungen zu unterzeichnen, die xAI ein „dauerhaftes, weltweites, nicht-exklusives, unterlizenzierbares, royalty-freies Recht“ zur Nutzung, Vervielfältigung und Verbreitung ihrer biometrischen Daten einräumten. Diese Daten wurden im Rahmen eines vertraulichen Projekts mit dem Codenamen „Project Skippy“ gesammelt und sollen dazu dienen, Ani sowie weitere AI-Kompanions von Grok menschlicher und emotional ansprechender zu gestalten. Einige Mitarbeiter zeigten Bedenken hinsichtlich der Nutzung ihrer Daten. Sie befürchteten, dass ihre Gesichter oder Stimmen ohne Zustimmung an Dritte verkauft oder in Deepfake-Videos missbraucht werden könnten. Zudem störte sie die sexualisierte Ausrichtung des Chatbots und sein Ähnlichkeit mit dem japanischen Begriff „Waifu“, der eine idealisierte, oft fiktive weibliche Figur bezeichnet. Trotz dieser Bedenken wurden die Mitarbeiter darauf hingewiesen, dass die Datenbereitstellung „eine Arbeitsanforderung“ sei, um xAIs Mission voranzutreiben. Die Enthüllung wirft erhebliche ethische und rechtliche Fragen auf, insbesondere bezüglich der Grenzen zwischen Mitarbeitererwartungen und Datenschutz. Experten aus der KI- und Datenschutzbranche kritisieren die Praxis als riskant und potenziell rechtswidrig, da biometrische Daten besonders sensibel sind und strengen Schutz genießen sollten. Die Nutzung solcher Daten ohne echte informierte Zustimmung und ohne klare Einschränkungen könnte gegen Datenschutzbestimmungen wie die DSGVO verstoßen. xAI, eine Tochtergesellschaft von Musk’s X Corp., gilt als ambitioniertes Projekt, das darauf abzielt, menschenähnliche Interaktionen durch KI zu ermöglichen. Doch die Methode der Datenbeschaffung unter Druck durch Arbeitsverpflichtungen stellt die Unternehmenskultur und ethische Standards in Frage. Die Enthüllung könnte langfristig das Vertrauen in Musk’s KI-Initiativen beeinträchtigen – besonders in einem Bereich, in dem Transparenz und Verantwortung entscheidend sind.