医療 AI を活用したテレヘルス企業 Medvi は、昨年の売上 4 億 1,000 万ドル、利益 6,500 万ドル、今年の見込み売上 18 億ドルを記録する急成長企業ですが、同社がAIによって生成された架空の医師アカウントを活用した広告戦略で批判に直面しています。メタの広告ライブラリ調査によると、同社のアフィリエイトを通じて、AI生成の特徴を持つ「医師」を装ったアカウントが体重減少薬や男性機能向上薬を販売する広告を出稿していました。これらのアカウントには、元のプロフィールから転用された疑いのある画像や、AI特有の文字の歪みが見られるほか、アンゴラやコンゴの電話番号、実在しない医師の名前が使用されているケースも確認されています。これに対し、メタの広告ライブラリでは、ビジネスインサイダーが問題点を指摘する前に約 5,000 件だった関連広告が、2,800 件程度まで減少しました。 メドビの創設者マシュー・ギャラガー氏は、連邦取引委員会（FTC）の方針に沿ってAI医師の表示を禁止するポリシーがあると語りましたが、調査されたアカウントには適切な開示が行われていませんでした。National Consumers League の担当者は、同社の「専門家推奨」などの表現が消費者を混同させ、FDA 承認薬との不当な比較や成分不明の薬の安全性について誤解を招くと指摘し、FTC の調査対象にも名を連ねています。さらに、FDA は 2 月に、メドビのサイトが承認薬との比較や独自の調製を示唆する内容で虚偽であるとして警告書を送付しました。ギャラガー氏はこのドメインがアフィリエイトが許可なく使用していたものだと主張しましたが、事実上の規制違反と見なされています。また、同社は過去 11 ヶ月間に少なくとも 3 件のスパム訴訟を起こされ、禁煙薬の過剰処方や詐欺的な請求など、テレヘルス業界全体の問題の一環として取り上げられています。 企業は AI ツールを建設やカスタマーサポート、ウェブサイトのコンテンツ作成に 2 万ドル以上投入していると報じられており、一部のコンテンツがAI生成であると明記しているものの、その正確性に対する責任は否定しています。この状況は、パンデミック以降急拡大したテレヘルス業界全体の問題を示しており、Cerebral や Done などの他社も同様の法的トラブルに直面しています。業界関係者は、違法なマーケティングを行う企業をすべて把握・監視することは、その数の多さから現実的ではないと指摘しています。