Rendre l'IA plus fiable en signalant ses propres doutes

Des chercheurs de l'Université de Californie à Riverside dirigés par Het Patel ont démontré que la confiance d'un modèle d'intelligence artificielle et l'exactitude de ses réponses sont déterminées par des caractéristiques internes distinctes. Cette découverte, publiée sur le serveur arXiv, remet en question l'hypothèse selon laquelle un modèle IA fiable est par définition correct. Les systèmes de langage peuvent ainsi répondre avec assurance tout en étant erronés, ou inversement, se montrer prudents tout en étant juste. Pour comprendre ce phénomène, l'équipe a analysé les modèles de langage ouverts Llama-3.1-8B de Meta et Gemma-2-9B de Google. À l'aide d'autoencodeurs clairsemés, des outils permettant d'observer l'activité neuronale du modèle, les chercheurs ont isolé trois types de caractéristiques internes : celles liées au doute, celles associées aux erreurs, et des caractéristiques confondues qui activent à la fois l'incertitude et la production de fausses réponses. En inhibant sélectivement ces dernières sans avoir à retotalement réentraîner le modèle, les scientifiques ont pu modifier son comportement en temps réel. Les résultats sont concluants. La suppression des caractéristiques confondues a réduit l'incertitude du modèle de jusqu'à 75 % tout en améliorant sa précision de 1,1 %. Dans une expérience pratique, l'utilisation de ces signaux internes pour identifier les réponses risquées avant leur génération a permis de filtrer les questions douteuses. Cette stratégie a fait passer la précision globale de 62 % à 81 %, contre seulement 64 % lorsque l'IA utilisait simplement une option je ne sais pas. L'IA a ainsi conservé sa capacité à répondre à plus de la moitié des interrogations tout en garantissant une fiabilité nettement supérieure. Cette méthode propose une voie concrète pour les développeurs souhaitant rendre les IA plus robustes sans engager des coûts de recalibration élevés. Les caractéristiques identifiées s'avèrent transversales et efficaces sur différents benchmarks, ce qui suggère qu'elles reflètent des mécanismes généraux de fonctionnement des réseaux de neuronaux. Au-delà de la confiance et de la justesse, cette approche ouvre la possibilité de cibler d'autres comportements souhaitables ou indésirables. En modulant directement ces signaux internes, il sera désormais envisageable d'orienter plus précisément la fiabilité et le jugement des futurs systèmes d'intelligence artificielle.