Échantillonnage nul pour des représentations interprétables et équitables

Nous proposons d’apprendre des représentations invariantes dans le domaine des données afin d’assurer une interprétabilité en matière d’équité algorithmique. L’invariance implique une sélection des corrélations de haut niveau pertinentes par rapport aux étiquettes de classe, ainsi qu’une robustesse face aux corrélations sans rapport avec les caractéristiques protégées, telles que la race ou le genre. Nous introduisons un cadre non trivial dans lequel l’ensemble d’apprentissage présente un biais fort, rendant les étiquettes de classe irrélevantes et empêchant toute distinction entre corrélations spuriennes et corrélations significatives. Pour résoudre ce problème, nous proposons un modèle entraîné de manière adversaire, combiné à une procédure d’échantillonnage nul, afin de produire des représentations invariantes dans le domaine des données. Afin de favoriser la déconnexion (disentanglement), nous utilisons un ensemble représentatif partiellement étiqueté. En plaçant les représentations dans le domaine des données, les modifications apportées par le modèle deviennent facilement examinables par des vérificateurs humains. Nous démontrons l’efficacité de notre méthode sur des jeux de données à la fois images et tabulaires : Coloured MNIST, CelebA et Adult.