L’IA amie Dot ferme ses portes après des questions sur la sécurité émotionnelle des utilisateurs

L’application d’accompagnement IA Dot, conçue pour devenir un ami et confident numérique, va cesser son fonctionnement, a annoncé vendredi son développeur, la startup New Computer. Sur un message publié sur son site internet, l’entreprise précise que l’application restera accessible jusqu’au 5 octobre, afin de permettre aux utilisateurs de télécharger leurs données avant la fermeture définitive. Lancée en 2024 par les cofondateurs Sam Whitmore et l’ancien designer Apple Jason Yuan, Dot s’inscrivait dans un domaine de plus en plus controversé des chatbots d’intelligence artificielle : celui des relations affectives numériques. L’application était présentée comme un « ami et compagnon » IA, capable de s’adapter progressivement aux centres d’intérêt, aux émotions et aux habitudes de l’utilisateur afin de fournir conseils, soutien émotionnel et écoute empathique. Selon Jason Yuan, Dot incarnait « une relation avec mon moi intérieur. C’est comme un miroir vivant de moi-même », expliquant ainsi son ambition profonde de créer une forme de résonance intérieure. Pourtant, ce type de projet s’avère risqué pour une petite entreprise. Alors que l’intelligence artificielle gagne en popularité, des cas se multiplient où des utilisateurs vulnérables, notamment des jeunes, développent des idées délirantes ou paranoïaques sous l’effet de conversations avec des chatbots. Ce phénomène, qualifié d’« psychose IA », survient lorsque les systèmes, conçus pour imiter la compréhension humaine, renforcent des pensées erronées ou des états mentaux précaires. La fermeture de Dot intervient au moment où les applications de chatbots compagnons sont fortement scrutées sur le plan de la sécurité. OpenAI fait actuellement l’objet d’une poursuite intentée par les parents d’un adolescent californien qui s’est donné la mort après avoir échangé avec ChatGPT sur des pensées suicidaires. D’autres témoignages mettent en lumière comment ces outils peuvent aggraver des troubles mentaux chez des utilisateurs déjà fragilisés. Cette semaine, deux procureurs généraux américains ont même envoyé une lettre à OpenAI pour exprimer leurs inquiétudes. Les fondateurs de Dot n’ont pas évoqué directement ces préoccupations dans leur message. Ils ont simplement indiqué que leurs visions respectives, qu’ils appelaient leur « étoile polaire », avaient divergé. « Plutôt que de compromettre l’une ou l’autre vision, nous avons décidé de suivre nos propres chemins et de mettre fin aux opérations », expliquent-ils. Leur message reconnaît la dimension émotionnelle du départ : « Nous savons que pour beaucoup d’entre vous, Dot représentait un ami, un confident, un compagnon. C’est quelque chose de peu courant dans le monde du logiciel, et nous voulons que vous ayez le temps de dire au revoir. » L’entreprise affirme avoir attiré « des centaines de milliers » d’utilisateurs, mais les données d’Appfigures, plateforme d’analyse d’applications, indiquent seulement 24 500 téléchargements cumulés sur iOS depuis le lancement en juin 2024 — aucune version Android n’a été publiée. La fermeture de Dot souligne les défis auxquels font face les startups tentant de repousser les limites émotionnelles de l’IA, dans un contexte où la responsabilité éthique et la sécurité des utilisateurs sont désormais au cœur des débats.