HyperAIHyperAI

Command Palette

Search for a command to run...

Échantillonnage nul pour des représentations interprétables et équitables

Thomas Kehrenberg Myles Bartlett Oliver Thomas Novi Quadrianto

Résumé

Nous proposons d’apprendre des représentations invariantes dans le domaine des données afin d’assurer une interprétabilité en matière d’équité algorithmique. L’invariance implique une sélection des corrélations de haut niveau pertinentes par rapport aux étiquettes de classe, ainsi qu’une robustesse face aux corrélations sans rapport avec les caractéristiques protégées, telles que la race ou le genre. Nous introduisons un cadre non trivial dans lequel l’ensemble d’apprentissage présente un biais fort, rendant les étiquettes de classe irrélevantes et empêchant toute distinction entre corrélations spuriennes et corrélations significatives. Pour résoudre ce problème, nous proposons un modèle entraîné de manière adversaire, combiné à une procédure d’échantillonnage nul, afin de produire des représentations invariantes dans le domaine des données. Afin de favoriser la déconnexion (disentanglement), nous utilisons un ensemble représentatif partiellement étiqueté. En plaçant les représentations dans le domaine des données, les modifications apportées par le modèle deviennent facilement examinables par des vérificateurs humains. Nous démontrons l’efficacité de notre méthode sur des jeux de données à la fois images et tabulaires : Coloured MNIST, CelebA et Adult.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp