Les grands modèles linguistiques peinent encore à distinguer correctement le fait de l'opinion, selon une étude récente publiée dans la revue Nature Machine Intelligence. Les résultats mettent en lumière un risque important : ces modèles peuvent ne pas corriger efficacement les croyances erronées des utilisateurs, même lorsqu’elles sont clairement fausses. Cette limitation souligne la nécessité d’une utilisation prudente des sorties des modèles dans des domaines à enjeux élevés, tels que la médecine, le droit ou la recherche scientifique, où la confusion entre une opinion personnelle et une information vérifiée peut avoir des conséquences sérieuses. L’étude révèle que les LLM, malgré leur capacité impressionnante à générer du texte fluide et convaincant, manquent souvent de rigueur dans la clarification des faits, ce qui peut renforcer des idées fausses sans les remettre en question. Ces constatations appellent à des améliorations dans la conception des modèles, ainsi qu’à une vigilance accrue de la part des utilisateurs, surtout dans les contextes où la précision est cruciale.