EQ-CBM : un modèle à bottleneck de concepts probabiliste basé sur des modèles à énergie et des vecteurs quantifiés

La demande croissante de systèmes d’intelligence artificielle fiables a renforcé la nécessité de réseaux de neurones profonds interprétables. Les modèles à seuil de concept (Concept Bottleneck Models, CBMs) ont suscité un intérêt croissant en tant qu’approche efficace, en exploitant des concepts compréhensibles par l’humain afin d’améliorer l’interprétabilité. Toutefois, les CBMs existants rencontrent des difficultés dues à une encodage déterministe des concepts et à une dépendance vis-à-vis de concepts incohérents, entraînant des inexactitudes. Nous proposons EQ-CBM, un cadre novateur qui améliore les CBMs grâce à une encodage probabiliste des concepts utilisant des modèles basés sur l’énergie (Energy-Based Models, EBM) avec des vecteurs d’activation de concept quantifiés (quantized Concept Activation Vectors, qCAVs). EQ-CBM capte efficacement les incertitudes, améliorant ainsi la fiabilité et la précision des prédictions. En utilisant des qCAVs, notre méthode sélectionne des vecteurs homogènes lors de l’encodage des concepts, permettant une performance de tâche plus tranchée et facilitant un niveau supérieur d’intervention humaine. Les résultats expérimentaux obtenus sur des jeux de données standard montrent que notre approche surpasser l’état de l’art en termes de précision des concepts et de précision de tâche.