Reddit Durcit la Vérification pour Repousser les Bots AI Imitant les Humains La semaine dernière, Reddit a connu une petite crise après que des chercheurs ont déployé une multitude de bots alimentés par l'intelligence artificielle (IA) sur le sous-forum "Change My View". L'objectif principal de cette vaste expérience était de mesurer la capacité de persuasion de l'IA. Ces bots ont posté plus de 1 700 commentaires, adoptant des identités comme des survivants d'abus ou des défenseurs antis des Black Lives Matter. Pour Reddit, une plateforme dont l'image est fortement associée à l'authenticité, cet incident a été catastrophique. Pourquoi c'est important pour Reddit Reddit se distingue par son écosystème centré sur les humains, où des individus partagent leurs véritables opinions. Cet environnement de confiance est crucial non seulement pour sa réputation mais aussi pour son modèle économique. En effet, la société vend désormais son contenu à OpenAI pour l'entraînement de ses modèles IA. Si cet écosystème devient entaché par des bots trompeurs, cela pourrait non seulement remettre en question l'identité de Reddit mais aussi menacer sa rentabilité. Face à ce défi, Reddit a fermement condamné cette "expérimentation imprudente et hautement contraire à l'éthique" et a porté plainte auprès de l'université responsable. Toutefois, le PDG Steve Huffman a indiqué que cet incident pourrait être le premier d'une longue série, que ce soit pour des raisons scientifiques ou manipulatoires politique. Les nouveaux mesures de vérification Pour protéger ses utilisateurs contre la manipulation par les bots et maintenir son aspect humain, Reddit envisage de renforcer sa politique de vérification. Dans un message publié lundi, Huffman a annoncé que la plateforme collaborerait avec des services tiers pour vérifier l'identité des utilisateurs. Cette démarche marque une rupture significative puisque Reddit n'a historiquement jamais exigé de données personnelles pour la création d'un compte. Huffman a déclaré : "Pour préserver l'aspect humain de Reddit et pour répondre aux exigences réglementaires en évolution, nous aurons besoin de quelques informations supplémentaires. Précisément, nous devrons savoir si vous êtes une personne humaine et, dans certains endroits, si vous êtes majeur. Mais nous ne voulons jamais connaître votre nom ou qui vous êtes." L'adoption de mesures de vérification d'identité n'est pas sans précédents : des pays comme le Royaume-Uni et neuf États américains ont déjà imposé des contrôles d'âge pour protéger les enfants sur les réseaux sociaux. Les plateformes couramment utilisées pour la vérification incluent Persona, Alloy, Stripe Identity, Plaid et Footprint. Ces services généralement réclament une pièce d'identité officielle. Contests et Risques Malgré la nécessité de ces mesures, des voix s’élèvent pour pointer les risques liés à la protection des données personnelles. Reddit est largement utilisé pour partager des expériences personnelles sensibles, souvent anonymement. Une vérification stricte pourrait dissuader les gens d'explorer des sujets délicats, comme le témoignage d’une adolescente enceinte sur les expériences d'avortement dans des états où cela est illégal. Le cas récent où Meta a remis à la justice des conversations privées entre une femme du Nebraska et sa fille âgée de 17 ans, discutant des plans de cette dernière pour avorter, a entraîné des accusations pénales pour les deux. Engagement de Reddit Huffman a souligné que l'anonymat reste une composante essentielle de Reddit. Il a assuré que la plateforme continuerait à être "extrêmement vigilante sur vos informations personnelles" et se dresserait "contre les demandes excessives ou irraisonnées des autorités publiques ou privées." Reddit espère ainsi minimiser les dangers en collaborant avec des entreprises externes capables de fournir "l'information essentielle et rien de plus". Évaluation Professionnelle Rebecca Bellan, journaliste senior chez TechCrunch, met en garde contre les risques posés par ces mesures. Elle souligne que la collaboration avec des services tiers, bien que nécessaire, doit être accompagnée de garanties strictes en matière de protection des informations personnelles. Bellan, qui a investi dans Ethereum, suit de près les implications des réglementations sur l'IA et les médias sociaux, notamment en ce qui concerne la vie privée des utilisateurs. La mise en œuvre de ces nouvelles règles sera cruciale pour naviguer entre la necessity de lutte contre la manipulation par les bots et le maintien de l'anonymat cher à Reddit. Les décisions prises par la société pourront influencer l'avenir du discours en ligne anonyme sur d'autres plateformes. Profil de l'Entreprise Reddit, fondé en 2005, est une entreprise technologique qui exploite une plateforme de médias sociaux communautaire. Son PDG, Steve Huffman, est un entrepreneur reconnu et un fervent défenseur de l'authenticité en ligne. Reddit gagne actuellement des revenus en vendant son contenu à des entreprises comme OpenAI, mettant en jeu sa responsabilité dans la protection et l'authenticité des contributions de ses utilisateurs.