Inconnus connus

Les grands modèles de langage produisent souvent des affirmations erronées connues sous le nom de « hallucinations ». La tâche des Connaissances Inconnues vise à explorer ce mode de défaillance en testant si le modèle peut correctement identifier quand la réponse à une question est inconnue. L'objectif de cette tâche est d'évaluer si le modèle peut éviter la préférence pour des prédictions incorrectes et, au lieu de cela, reconnaître son incertitude face à des vérités inconnues. Cela aide à améliorer la fiabilité et la transparence du modèle, renforçant ainsi sa crédibilité dans les applications réelles.