Medvi confrontée à des problèmes avec son IA médicale
Medvi, une startup de télé-santé alimentée par l'intelligence artificielle et dirigée par le fondateur Matthew Gallagher, a connu une croissance explosive, atteignant 401 millions de dollars de chiffre d'affaires l'année dernière avec un bénéfice de 65 millions de dollars. Bien que l'entreprise ne compte que deux employés, elle prévoit de réaliser 1,8 milliard de dollars de ventes cette année. Cette expansion rapide repose en grande partie sur un réseau de marchands affiliés, dont une partie significative aurait créé du contenu généré par l'IA pour promouvoir ses produits. Une enquête a révélé que certains affiliés de Medvi utilisaient des pages de professionnels de santé fictifs créés par l'IA pour faire la promotion de médicaments contre l'obésité et de produits pour la performance masculine. Des analyses des publicités sur Meta ont montré des signes évidents d'authenticité forgée, tels que des photos contenant du texte illisible, des filigranes d'outils comme Gemini, et des numéros de téléphone ou des informations de contact appartenant à d'autres secteurs d'activité. Parmi les exemples cités, des profils tels que « Dr Matthew Anderson MD » et « Dr Spencer Langford MD » présentaient des incohérences flagrant, comme des numéros angolais ou congolais et des photos associées à d'anciennes activités commerciales non médicales. À la suite des révélations de Business Insider, le nombre de campagnes publicitaires actives a chuté de plus de 5 000 à environ 2 800 en quelques jours, bien que la majorité des pages concernées ne disposaient d'aucune mention disclosing l'usage de l'IA ou la nature fictive des médecins présentés. Matthew Gallagher a déclaré que l'entreprise avait une politique stricte contre l'utilisation de représentations d'acteurs ou d'IA pour imiter des médecins, et affirmait coopérer pour retirer les publicités non conformes. Cependant, il a également indiqué que le site web critiqué par la FDA, medvi.io, était opéré par un affilié non autorisé ayant utilisé le nom de Medvi sans permission, et que cette entité avait déjà fermé le site. Les régulateurs ont exprimé de graves inquiétudes. La Ligue nationale des consommateurs a demandé à la Federal Trade Commission (FTC) d'enquêter sur Medvi, estimant que les termes utilisés sur son site, comme « approuvé par des médecins », créent une confusion dangereuse chez les consommateurs quant à la sécurité des médicaments composés vendus. La FTC a souligné que les annonceurs doivent mettre en place des programmes raisonnables pour surveiller leurs affiliés, en particulier dans le secteur de la santé. Par ailleurs, la FDA a envoyé une mise en garde en février concernant des affirmations fausses ou trompeuses sur le site, notamment des comparaisons avec des médicaments approuvés comme Wegovy et l'impression que Medvi fabriquait ses propres médicaments. En outre, Medvi fait face à au moins trois poursuites judiciaires au cours des onze derniers mois pour violation des lois sur le spam via l'envoi de textos et d'emails non sollicités. L'entreprise nie toute illégalité et affirme avoir une politique zéro tolérance pour le spam. Cette situation s'inscrit dans un contexte plus large de troubles au sein du secteur de la télé-santé depuis la pandémie, avec d'autres entreprises comme Cerebral et Done ayant été confrontées à des scandales liés à la surprescription et à la fraude. Avec une croissance rapide de la demande pour les traitements contre l'obésité et le TDAH, les régulateurs signalent une difficulté croissante à maîtriser les pratiques marketing illégales de nombreuses plateformes en ligne.
