Ein neuer Gesetzesentwurf im US-Senat zielt darauf ab, die Verwendung von KI-Chatbots durch große Technologieunternehmen bei Kindern zu verbieten, nachdem sich zunehmend Sorge über die Auswirkungen solcher künstlichen Intelligenzen auf die psychische Gesundheit und den Datenschutz von Jugendlichen verstärkt hat. Die vorgeschlagene Regelung, die von mehreren Senatoren, darunter die Demokratin Mazie Hirono und der Republikaner Richard Blumenthal, initiiert wurde, soll verhindern, dass Unternehmen wie Meta, Google, Apple und Amazon KI-Companion-Bots an Kinder vermarkten, die auf emotionalen Bindungen basieren und potenziell manipulativ wirken können. Diese Bots, die oft als „virtuelle Freunde“ oder „emotionale Begleiter“ beworben werden, nutzen fortschrittliche Sprachmodelle, um sich wie menschliche Gesprächspartner zu verhalten – was besonders bei jungen Nutzern zu Abhängigkeit, Identitätsverwirrung oder schädlichen Verhaltensmustern führen könnte. Der Gesetzesentwurf sieht vor, dass Unternehmen, die solche KI-Systeme an Kinder anbieten, mit erheblichen Strafen belegt werden können, darunter Geldbußen bis zu 10 Prozent ihres weltweiten Umsatzes. Zudem sollen strenge Altersüberprüfungen und Transparenzpflichten eingeführt werden, um sicherzustellen, dass Kinder nicht unbemerkt mit solchen Technologien in Berührung kommen. Die Senatoren argumentieren, dass derzeitige Regulierungen nicht ausreichen, um die schnelle Entwicklung von KI-Technologien im Bereich sozialer Interaktionen zu begleiten, und betonen die Notwendigkeit eines proaktiven Schutzes der Jugend. Big Tech reagierte umgehend mit scharfer Kritik. Unternehmen wie Meta und Google bezeichneten den Entwurf als „überzogen“ und „schwerfällig“, und warnten vor negativen Folgen für Innovation und technologische Entwicklung. Sie argumentierten, dass die meisten KI-Tools bereits über Altersschutzmechanismen verfügten und dass eine generelle Verbotspolitik die Entwicklung nützlicher Bildungs- und Therapieanwendungen für Kinder behindern könnte. Kritiker aus der Industrie befürchten zudem, dass die Regelung zu einem Präzedenzfall für übermäßige staatliche Kontrolle über KI werden könnte. Dennoch finden die Bemühungen breite Unterstützung bei Elternverbänden, Kinderrechtsorganisationen und Psychologen, die die potenziellen Risiken von KI-Interaktionen für die emotionale Entwicklung von Kindern hervorheben. Experten warnen vor der „Emotionskompensation“ durch KI, bei der Kinder statt echter menschlicher Beziehungen auf künstliche Gesprächspartner angewiesen werden, was zu sozialer Isolation oder verzerrten Erwartungen an Beziehungen führen könnte. Industrieanalysten sehen in dem Gesetzesentwurf einen Wendepunkt in der gesetzlichen Regulierung von KI, der die Verantwortung der Tech-Giganten für die Auswirkungen ihrer Produkte auf die Gesellschaft deutlich erhöht. Obwohl die Chancen auf schnelle Umsetzung unsicher sind, könnte der Entwurf den Druck auf die Branche weiter erhöhen, verantwortungsvollere KI-Entwicklung zu fördern. Die Debatte spiegelt zudem die wachsende gesellschaftliche Auseinandersetzung mit der Rolle von KI in Alltag und Erziehung wider.