EQ-CBM: Ein probabilistisches Concept Bottleneck mit energiebasierten Modellen und quantisierten Vektoren

Die Nachfrage nach zuverlässigen KI-Systemen hat die Notwendigkeit interpretierbarer tiefer neuronaler Netze verstärkt. Konzept-Bottleneck-Modelle (CBMs) haben aufgrund ihrer Fähigkeit, menschlich verständliche Konzepte zu nutzen, um die Interpretierbarkeit zu verbessern, erhebliche Aufmerksamkeit erlangt. Allerdings leiden bestehende CBMs an Problemen durch deterministische Konzeptkodierung und Abhängigkeit von inkonsistenten Konzepten, was zu Ungenauigkeiten führt. Wir stellen EQ-CBM vor, einen neuartigen Ansatz, der CBMs durch probabilistische Konzeptkodierung mittels energiebasierter Modelle (EBMs) mit quantisierten Konzept-Aktivierungsvektoren (qCAVs) verbessert. EQ-CBM erfasst Unsicherheiten effektiv und steigert dadurch die Zuverlässigkeit und Genauigkeit der Vorhersagen. Durch die Verwendung von qCAVs wählt unsere Methode homogene Vektoren während der Konzeptkodierung aus, was eine präzisere Aufgabenerfüllung ermöglicht und eine höhere Ebene menschlicher Intervention unterstützt. Empirische Ergebnisse auf Benchmark-Datensätzen zeigen, dass unser Ansatz sowohl in Bezug auf Konzept- als auch auf Aufgaben-Genauigkeit die derzeitigen State-of-the-Art-Methoden übertrifft.