Command Palette
Search for a command to run...
EQ-CBM : un modèle à goulot de concept probabiliste basé sur les modèles à énergie et des vecteurs quantifiés
EQ-CBM : un modèle à goulot de concept probabiliste basé sur les modèles à énergie et des vecteurs quantifiés
Kwang-Ju Kim In-Su Jang Byoung Chul Ko Dasom Ahn Sangwon Kim
Résumé
La demande croissante de systèmes d’intelligence artificielle fiables a renforcé la nécessité de réseaux de neurones profonds interprétables. Les modèles à seuil de concept (Concept Bottleneck Models, CBMs) ont suscité un intérêt croissant en tant qu’approche efficace, exploitant des concepts compréhensibles par l’humain afin d’améliorer l’interprétabilité. Toutefois, les CBMs existants rencontrent des difficultés dues à une encodage déterministe des concepts et à leur dépendance vis-à-vis de concepts hétérogènes ou incohérents, ce qui entraîne des inexactitudes. Nous proposons EQ-CBM, un cadre novateur qui améliore les CBMs grâce à une encodage probabiliste des concepts utilisant des modèles basés sur l’énergie (Energy-Based Models, EBMs) et des vecteurs d’activation de concepts quantifiés (quantized Concept Activation Vectors, qCAVs). EQ-CBM capte efficacement les incertitudes, améliorant ainsi la fiabilité et la précision des prédictions. En exploitant les qCAVs, notre méthode sélectionne des vecteurs homogènes lors de l’encodage des concepts, permettant une meilleure détermination des performances sur la tâche et facilitant un niveau supérieur d’intervention humaine. Les résultats expérimentaux obtenus sur des jeux de données standard montrent que notre approche surpasser l’état de l’art en termes de précision sur les concepts et sur la tâche.