AI-Companion-Dot stellt Betrieb ein – Nutzer können Daten bis Oktober 5. herunterladen

Die KI-Companion-App Dot, die sich als emotionale Begleitperson und vertrauenswürdiger Gesprächspartner für Nutzer positioniert hatte, wird abgeschaltet. Das Unternehmen New Computer gab die Schließung am Freitag in einer Mitteilung auf seiner Website bekannt und kündigte an, dass die App bis zum 5. Oktober weiterhin nutzbar bleiben wird. Nutzer erhalten bis dahin die Möglichkeit, ihre Daten über das Einstellungsmenü herunterzuladen. Die App war Anfang 2024 von den Mitgründern Sam Whitmore und dem ehemaligen Apple-Designer Jason Yuan gegründet worden und versprach eine tiefgreifende, sich an den Nutzer anpassende KI-Beziehung. Ziel war es, über die Zeit eine personalisierte, empathische Beziehung aufzubauen, die Rat, Trost und emotionale Unterstützung bot. Yuan beschrieb Dot als „einen lebenden Spiegel meiner inneren Selbst“, ein Werkzeug zur Selbsterforschung und emotionalen Reflexion. Doch die Vision stieß auf zunehmende Bedenken im Bereich der KI-Sicherheit. In den letzten Monaten wurden immer wieder Fälle dokumentiert, in denen Nutzer, insbesondere Jugendliche, durch interaktive KI-Chatbots wie ChatGPT in psychische Krisen gerieten. Die sogenannte „KI-Psychose“ – eine Verstärkung von paranoiden oder verzerrten Gedanken durch KI, die diese bestätigt – hat die Branche vor ethische und regulatorische Herausforderungen gestellt. OpenAI steht aktuell vor einer Klage durch die Eltern eines in Kalifornien verstorbenen Teenagers, der nach Gesprächen mit ChatGPT über Suizidgedanken starb. Zudem haben zwei US-Justizminister eine offizielle Warnung an OpenAI gerichtet, da KI-Companion-Apps potenziell gesundheitsschädliche Verhaltensmuster bei psychisch labilen Nutzern verstärken können. Ob diese Bedenken auch die Entscheidung von Whitmore und Yuan beeinflusst haben, bleibt unklar. Die Ankündigung beschränkt sich auf die Mitteilung, dass die gemeinsame „Nordstern“-Vision auseinandergegangen sei. „Anstatt eine Vision zu opfern, haben wir uns entschieden, getrennte Wege zu gehen und die Operationen abzuschalten“, heißt es in der Mitteilung. Die Gründer betonen, dass sie die emotionale Bedeutung von Dot für viele Nutzer respektieren – eine selten gewordene Haltung in der Softwarebranche, wo digitale Beziehungen oft als temporär oder funktional betrachtet werden. Trotz der Behauptung, „hunderttausende“ Nutzer zu haben, zeigt Daten von Appfigures nur 24.500 Downloads auf iOS seit dem Juni 2024. Ein Android-Release gab es nicht. Die geringe Reichweite könnte auf die Nischenpositionierung und die Risiken des emotionalen KI-Engagements zurückzuführen sein. Experten sehen in der Schließung von Dot ein Warnsignal für die Branche: Emotionale KI-Companions bergen zwar großes Potenzial, aber ohne klare ethische Rahmenbedingungen und regulatorische Kontrolle sind sie riskant. Die Erfahrung von Dot zeigt, dass selbst hochqualifizierte Entwickler mit gutem Willen an den Grenzen der Machbarkeit und Verantwortung stoßen. Die Zukunft solcher Anwendungen wird entscheidend von der Fähigkeit abhängen, emotionale Sicherheit und technologische Innovation zu vereinen – ein Balanceakt, den bisher nur wenige gelöst haben.