HyperAIHyperAI

Command Palette

Search for a command to run...

il y a 3 mois
Meta
IA Générative

Big Tech promet de combattre l’IA malhonnête, mais continue de la propulser

À la fin de 2025, Adam Mosseri, responsable d’Instagram, a lancé un avertissement alarmiste sur l’IA : « L’authenticité devient infiniment reproductible. Tout ce qui donnait de la valeur aux créateurs — être réel, se connecter, avoir une voix qu’on ne pouvait pas falsifier — est désormais accessible à quiconque possède les bons outils. » Pourtant, selon lui, les utilisateurs réclament encore du contenu « qui semble réel ». Sa solution ? Marquer le contenu authentique. Il a proposé que les fabricants de caméras signent cryptographiquement les images au moment de la prise de vue, créant ainsi une chaîne de custody vérifiable. Ce système existe déjà : il s’appelle C2PA (Coalition for Content Provenance and Authenticity). Le paradoxe ? Instagram, qui a rejoint le comité directeur de C2PA en septembre 2024, n’en fait pas usage de manière efficace. Au contraire, il poursuit son développement accéléré d’outils d’IA générative, transformant sa plateforme en une usine à « contenu artificiel ». L’IA s’est tellement améliorée qu’elle reproduit non seulement des tendances visuelles, mais aussi des personnalités, des artistes ou des événements réels — parfois avec des conséquences graves, comme lors des protestations contre ICE au Minnesota ou du meurtre de Renee Nicole Good et Alex Pretti. Les créateurs tentent de résister en privilégiant un style « brut », « imparfait », mais l’IA excelle aussi à imiter ce type de rendu. Le problème est que les systèmes de détection, comme C2PA, ne sont pas suffisants. Bien que soutenu par des géants comme Microsoft, Google, Meta, OpenAI, TikTok et Qualcomm, C2PA repose sur une métadonnée invisible ajoutée au moment de la création ou de l’édition. Mais son efficacité dépend de l’adhésion universelle — or, les fabricants de caméras comme Canon, Nikon ou Leica l’intègrent lentement, et seulement sur leurs modèles récents. Pour les images anciennes, la confiance repose encore sur le contexte, la réputation ou la responsabilité éditoriale. Le principal défaut de C2PA ? Il peut être facilement supprimé, accidentellement ou intentionnellement. LinkedIn et TikTok ne marquent pas systématiquement le contenu. YouTube, malgré l’usage combiné de C2PA, SynthID et d’autres systèmes, affiche ces étiquettes de façon incohérente, parfois invisibles sur le site web, ou remplacées par des noms de chansons. L’utilisateur doit ouvrir un menu déroulant ou utiliser une extension Chrome pour les voir — une barrière inutilement haute. Meta a même rebaptisé ses étiquettes « AI info », les rendant presque invisibles. Ce système, loin d’être une solution, sert souvent de couverture pour continuer à produire du contenu génératif. OpenAI, membre fondateur de C2PA, ne cache pas ses limites : « Ce n’est pas une solution miracle. » Andy Parsons, directeur de l’authenticité du contenu chez Adobe, reconnaît que C2PA ne résout qu’une partie des problèmes. X (anciennement Twitter), bien que fondateur du projet, s’est retiré après l’acquisition par Elon Musk. Son absence est significative : une plateforme de 270 millions d’utilisateurs, où circulent des deepfakes trompeurs et des contenus générés par Grok, sans aucun contrôle réel. Ben Colman, PDG de Reality Defender, souligne que se fier uniquement aux étiquettes suppose que les contenus malveillants proviennent de quelques outils spécifiques — une erreur stratégique. Les études montrent que les avertissements de transparence ont peu d’effet réel sur la perception du public. Les plateformes continuent d’investir massivement dans l’IA générative, non pas pour lutter contre le « contenu artificiel », mais pour le produire. Meta prévoit de verrouiller certaines fonctionnalités d’IA derrière des abonnements premium. OpenAI fait des milliards avec ChatGPT et Sora. YouTube, malgré ses promesses, voit 10 % des chaînes les plus croissantes être alimentées par du contenu IA. Ce n’est pas une erreur technique — c’est une stratégie commerciale. L’IA, comme le contenu controversé, génère de l’engagement, des clics, des publicités. La lutte contre le « slop » IA est donc en conflit direct avec les intérêts économiques des géants du secteur. Mosseri appelle à la transparence, à la réelle, à la cohérence — mais il oublie que la plateforme qu’il dirige est en train de devenir une machine à produire ce qu’elle prétend combattre. L’authenticité, comme il le dit, est « en danger ». Mais si les entreprises qui la promettent sont celles qui en produisent le plus, alors le combat est perdu d’avance.

Liens associés

Big Tech promet de combattre l’IA malhonnête, mais continue de la propulser | Articles tendance | HyperAI