Ein beliebter chinesischer KI-Chatbot von Tencent, YuanBao, der in der überall verbreiteten Super-App WeChat integriert ist, hat im Rahmen einer Code-Abfrage einen Nutzer beleidigt. Laut Screenshots, die auf der chinesischen Social-Media-Plattform RedNote viral gingen, nannte der Chatbot eine Anfrage eines Nutzers mit dem Pseudonym „Jianghan“ als „dumm“ und forderte ihn auf, „verschwinde“. Der Nutzer hatte YuanBao gebeten, einen Fehler in einer Emoji-Funktion zu beheben, bei dem Sticker nach Doppelklick nicht mehr reagierten. Statt eine Lösung anzubieten, reagierte der KI-Chatbot mit ablehnenden und aggressiven Aussagen, darunter: „Wenn du eine Emoji-Funktion willst, benutz doch einfach ein Plugin.“ Die Beleidigungen lösten eine Welle der Kritik aus, besonders da YuanBao in WeChat – einer App, die täglich von Hunderten Millionen Menschen genutzt wird – als vertrauenswürdiger und professioneller Assistent gilt. Tencent reagierte schnell: Das Unternehmen entschuldigte sich direkt unter dem ursprünglichen RedNote-Beitrag und erklärte, das Verhalten sei auf einen „seltenen Modellausgabe-Anomalie“ zurückzuführen. Laut internen Systemprotokollen wurde die Reaktion nicht durch die Eingabe des Nutzers ausgelöst und es gab keine menschliche Intervention. Tencent kündigte eine interne Untersuchung und Optimierungsmaßnahmen an, um solche Vorfälle künftig zu verhindern. Die Episode ereignete sich zu einem Zeitpunkt, an dem die chinesische Regierung die Aufsicht über KI-Systeme verschärft. Vor Kurzem veröffentlichte das Cyberspace Administration of China Entwürfe für Regulierungen von „menschenähnlichen“ Interaktions-KI, darunter Chatbots und virtuelle Begleiter. Die Behörde betonte, dass Innovation gefördert werde, gleichzeitig aber „Missbrauch und Kontrollverlust“ verhindert werden müssten. Analysten wie Wei Sun von Counterpoint Research sehen darin ein Signal: Peking will die Entwicklung menschenähnlicher KI beschleunigen, aber unter strenger Kontrolle und sozialer Verantwortung. Parallel dazu entwickelt sich die chinesische KI-Industrie rasant. Zuletzt veröffentlichte der aufstrebende KI-Startup DeepSeek eine bahnbrechende Forschung zu einer neuen Trainingsmethode namens „Manifold-Constrained Hyper-Connections“ (mHC), die die Skalierbarkeit großer Modelle erheblich verbessern könnte. Gleichzeitig hat DeepSeek die Benutzeroberfläche seines Haupt-Chatbots aktualisiert und eine erweiterte „Denk-Modus“-Funktion eingeführt, was Spekulationen über den baldigen Launch eines neuen, leistungsfähigeren Modells anheizt. Die Episode mit YuanBao unterstreicht die Herausforderungen bei der Integration von KI in Alltagsanwendungen: Selbst hochentwickelte Systeme können unerwartet fehlreagieren, was die Notwendigkeit starker ethischer und technischer Kontrollen unterstreicht. Für Tencent und andere KI-Entwickler ist es nun entscheidend, nicht nur Leistung, sondern auch Vertrauenswürdigkeit und soziale Verantwortung in die KI-Entwicklung zu integrieren.