En début décembre, Google a commencé à remplacer les titres des articles de The Verge et d'autres médias par des formulations générées par l’IA, souvent trompeuses ou absurdes, dans son fil d’actualités Google Discover. Bien que l’entreprise semblait reculer sur cette expérimentation, elle affirme désormais que ces titres automatisés sont une fonctionnalité « performante » selon les mesures de satisfaction des utilisateurs. Chaque fois que je consulte mon téléphone, je tombe sur de nouveaux exemples de déclarations mensongères ou décontextualisées. Ces titres, générés par l’IA, sont comparables à un libraire qui remplace les couvertures des livres exposés — ici, le « libraire » est le fil d’actualités affiché en glissant sur l’écran d’un Samsung ou d’un Google Pixel, et la couverture est une fausse intrigue produite par l’IA. Par exemple, Google a récemment affiché un titre affirmant que « les États-Unis ont annulé l’interdiction des drones étrangers », en lien avec un article de PCMag — qui, justement, précise dans son texte que cette information est fausse. Jim Fisher, rédacteur chez PCMag, a qualifié cette manipulation de « dégoûtante » et a appelé les lecteurs à lire les articles eux-mêmes plutôt que de se fier aux résumés fournis par Google. Il estime que Google devrait utiliser les titres rédigés par les journalistes, ou au moins les résumés que les médias fournissent déjà pour les moteurs de recherche. Google affirme ne pas réécrire les titres, mais les présenter comme des « sujets tendance ». Pourtant, chaque « sujet » s’affiche comme une actualité, utilise une image de l’article original, et lie directement au contenu — sans vérification factuelle. L’implémentation actuelle est légèrement moins mauvaise qu’il y a un mois : moins de titres extrêmement courts et absurdes (comme « Microsoft développeurs utilisent l’IA »), mais certains remplacés par d’autres phrases incohérentes comme « Fares : besoin de jeux AAA et AA » ou « Dispatch vendu à des millions ; peu ont évité l’amour ». L’IA ne comprend pas ce qui est nouveau, important ou vrai dans un article. Elle confond souvent des sujets : le 26 décembre, Google a annoncé que « les prix et détails HDMI de la Steam Machine émergent » — ce qui n’était pas le cas. Le 11 janvier, il a proclamé l’arrivée de l’ASUS ROG Ally X (sortie en 2024), tandis que le 20 janvier, il a présenté une « nouvelle technologie 3D appelée Immensity » de Leia, en lien avec un article de TechRadar sur une entreprise complètement différente, Visual Semiconductor. Une autre erreur a fait croire à une déclaration d’un fabricant de GPU sur la pénurie de RAM, alors que le lien menait à un article sur un fabricant de mémoire. Je suis particulièrement préoccupé par ces manipulations sur les articles de The Verge, car elles nuisent à notre capacité à promouvoir notre propre contenu. Google devrait inciter les utilisateurs à visiter nos sites plutôt que de servir comme intermédiaire trompeur. Or, l’IA ne filtre pas mieux les titres clickbait humains : un article de Screen Rant sur une offre limitée de « téléchargement gratuit de Star Wars Outlaws » — valable pour une seule copie au Royaume-Uni — a été publié sans modification, malgré son caractère exagéré. Google ne s’est pas exprimé en profondeur, mais une porte-parole, Jennifer Kutz, a confirmé que cette fonction est en test, notamment via des notifications push menant à un chatbot Gemini pour résumer les articles. Cette évolution inquiète, surtout au vu de la poursuite intentée par Vox Media, maison mère de The Verge, contre Google pour abus de position dominante dans la publicité en ligne.