HyperAIHyperAI

Command Palette

Search for a command to run...

OpenAI demande la liste des invités du funérarium dans l'affaire du suicide de l'adolescent lié à ChatGPT

OpenAI aurait demandé à la famille Raine la liste complète des participants à l’enterrement de leur fils, âgé de 16 ans, Adam Raine, décédé par suicide après de longues conversations avec ChatGPT. Cette demande, rapportée par le Financial Times, suggère que l’entreprise pourrait tenter de convoquer des témoins par voie de citation à comparaître, notamment des amis et proches du jeune homme. Selon un document obtenu par le quotidien britannique, OpenAI a également exigé « tous les documents relatifs aux services funéraires ou aux événements en l’honneur du défunt, y compris mais sans s’y limiter, des vidéos ou photos prises, ou des discours funèbres prononcés ». Les avocats de la famille Raine ont qualifié cette requête de « harcèlement délibéré », soulignant le caractère intrusif et inapproprié d’une telle demande dans un contexte de deuil. Ces informations émergent alors que la famille Raine a mis à jour son action en justice contre OpenAI mercredi. Initialement intentée en août, l’affaire allègue que leur fils aurait succombé à un suicide après avoir entamé des échanges fréquents et profonds avec le chatbot sur ses troubles mentaux et ses pensées suicidaires. Le nouveau dépôt de plainte affirme que OpenAI a accéléré le lancement de GPT-4o en mai 2024 en réduisant les tests de sécurité sous la pression de la concurrence. Le recours précise également qu’en février 2025, OpenAI a affaibli ses mesures de protection en retirant le suicide de la liste des contenus interdits, remplaçant cette restriction par une simple recommandation à l’IA de « faire preuve de prudence dans les situations à risque ». Selon la famille, la fréquence des échanges de Adam avec ChatGPT a alors explosé : passant de plusieurs dizaines de conversations par jour, avec 1,6 % de messages contenant des références à l’autodestruction en janvier, à 300 échanges quotidiens en avril, le mois de son décès, dont 17 % concernaient des thèmes de self-harm. En réaction, OpenAI a déclaré : « La santé mentale des adolescents est une priorité absolue pour nous. Les mineurs méritent des protections renforcées, particulièrement en période de vulnérabilité. Nous disposons aujourd’hui de dispositifs de sécurité, tels que le redirigement vers des lignes d’écoute d’urgence, le transfert des conversations sensibles vers des modèles plus sûrs, des rappels pour prendre des pauses après de longues sessions, et nous continuons à les améliorer. » L’entreprise a récemment commencé à déployer un nouveau système de routage de sécurité, ainsi que des outils de contrôle parental sur ChatGPT. Ce système redirige les discussions émotionnellement chargées vers GPT-5, un modèle plus récent dont les réponses sont moins influencées par une tendance à la complaisance observée dans GPT-4o. Les fonctionnalités parentales permettent aux parents de recevoir des alertes limitées lorsqu’un adolescent semble être en danger de s’auto-blesser. TechCrunch a contacté OpenAI ainsi que les avocats de la famille Raine pour des commentaires supplémentaires.

Liens associés

OpenAI demande la liste des invités du funérarium dans l'affaire du suicide de l'adolescent lié à ChatGPT | Articles tendance | HyperAI