China plant, die Nutzung von Chatprotokollen zur Weiterbildung von KI-Systemen strenger zu regulieren. Die Cyberspace Administration of China (CAC) hat am Samstag Entwürfe für neue Vorschriften veröffentlicht, die vorsehen, dass KI-Unternehmen vor der Verwendung von Nutzerdialogen zur Modelloptimierung ausdrückliche Zustimmung einholen müssen. Ziel ist es, „menschlich-interaktive“ KI-Dienste wie Chatbots und virtuelle Begleiter sicher und verantwortungsvoll zu gestalten. Die Maßnahmen sollen Innovationen im Bereich der KI fördern, gleichzeitig aber Missbrauch und Kontrollverlust verhindern. Nach den Vorschlägen müssen Plattformen Nutzer über die Interaktion mit KI informieren, ihnen Zugriff auf ihre Chatverläufe gewähren und die Löschung ermöglichen. Die Nutzung von Gesprächsdaten für die KI-Weiterbildung oder die Weitergabe an Dritte bedarf zwingend der expliziten Zustimmung. Bei Minderjährigen ist zusätzlich die Zustimmung eines Erziehungsberechtigten erforderlich, der auch das Recht auf Löschung des Chatverlaufs hat. Die Entwürfe sind bis Ende Januar der öffentlichen Beratung unterworfen. Experten sehen in der Regelung ein Gleichgewicht zwischen Sicherheit und Innovation. Lian Jye Su von Omdia warnt, dass die Beschränkung des Zugriffs auf Chatprotokolle die sogenannte „Reinforcement Learning“-Mechanismen beeinträchtigen könnte, die für die Entwicklung präziser und ansprechender KI-Dialogsysteme entscheidend sind. Dennoch verfügt China über ein robustes KI-Ökosystem und Zugang zu umfangreichen öffentlichen und firmeneigenen Datensätzen, was die Entwicklung weiterhin ermöglicht. Su sieht die Maßnahme als Ausdruck Chinas Fokus auf nationale Sicherheit und kollektives Gemeinwohl – sensible Gespräche sollen nicht mehr als freie Trainingsdaten gelten. Wei Sun von Counterpoint Research betont, dass die Vorschriften weniger als Hemmschuh wirken, sondern eher als Richtungsweisung dienen: Der Schwerpunkt liegt auf Nutzerschutz und Transparenz, nicht auf Innovationsbremsen. Sie interpretiert die Regelungen als politische Aufforderung, menschlich-interaktive KI in sozial sinnvollen Bereichen wie Kulturförderung oder Betreuung älterer Menschen auszubauen – besonders relevant in Anbetracht des raschen demografischen Wandels. Die Entwicklung kommt in einem Kontext, in dem wachsende Bedenken über die Verarbeitung vertraulicher Nutzerdaten durch KI-Unternehmen auftauchen. Berichte von Business Insider hatten Ende August aufgedeckt, dass Mitarbeiter von Meta und anderen Tech-Riesen persönliche Chatverläufe mit KI-Systemen auswerten, um die Antworten zu bewerten. In einigen Fällen handelte es sich um hochsensible Inhalte wie therapeutische Gespräche oder intime Beziehungen. Meta betont, dass nur begrenzte personenbezogene Daten zugänglich sind und strenge Sicherheitsrichtlinien gelten. Auch bei Google wird die Gefahr von Datenmissbrauch durch Cyberkriminelle oder Datenhändler erkannt – Experten rufen daher zur Vorsicht bei der Nutzung von Chatbots auf. Die neuen Regeln könnten die Entwicklung von KI-Chatbots in China verlangsamen, bergen aber gleichzeitig das Potenzial, das Vertrauen der Nutzer zu stärken und nachhaltige, ethisch verantwortbare KI-Systeme zu fördern.