HyperAIHyperAI

Command Palette

Search for a command to run...

Modèles d'embedding de graphes conceptuels pour une précision et une interprétabilité améliorées

Byoung Chul Ko Sangwon Kim

Résumé

Dans les domaines exigeant une haute responsabilité, il est essentiel de comprendre comment les modèles d’apprentissage profond prennent leurs décisions lors de l’analyse des causes derrière une classification d’images. Des méthodes d’interprétation fondées sur les concepts ont récemment été introduites afin de révéler les mécanismes internes des modèles d’apprentissage profond à l’aide de concepts de haut niveau. Toutefois, ces méthodes sont limitées par un compromis entre précision et interprétabilité. Par exemple, dans des environnements réels, contrairement aux jeux de données d’entraînement soigneusement structurés, la prédiction précise des concepts attendus devient un défi en raison des diverses distorsions et complexités introduites par des objets variés. Pour surmonter ce compromis, nous proposons des modèles d’embedding de graphe de concepts (CGEM), qui captent les dépendances et structures complexes entre concepts grâce à l’apprentissage de directions mutuelles. Le réseau de neurones convolutionnel de graphe de concepts (Concept GCN), une tâche descendante de CGEM, se distingue des méthodes précédentes en ne déterminant pas uniquement la présence de concepts, mais en effectuant une classification finale fondée sur les relations entre concepts apprises via l’embedding de graphe. Ce processus confère au modèle une grande résilience, même en présence de concepts erronés. En outre, nous utilisons un GCN bipartite déformable pour le codage des concepts centrés sur les objets dans les phases initiales, ce qui améliore l’homogénéité des concepts. Les résultats expérimentaux montrent que, grâce au codage conceptuel déformable, le CGEM atténue efficacement le compromis entre précision de la tâche et interprétabilité. De plus, il a été confirmé que cette approche permet au modèle d’améliorer à la fois la résilience et l’interprétabilité, tout en maintenant une robustesse face à diverses distorsions de concepts présentes dans des environnements réels et à des interventions erronées sur les concepts. Notre code est disponible à l’adresse suivante : https://github.com/jumpsnack/cgem.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp