Atténuation du biais de genre dans la reconnaissance faciale à l’aide du modèle à mélange de von Mises-Fisher

Malgré les performances élevées et la fiabilité des algorithmes d’apprentissage profond dans un large éventail d’applications courantes, de nombreuses études montrent que de nombreux modèles présentent des biais, discriminant des sous-groupes spécifiques de la population (par exemple, le genre, l’ethnie). Cela incite les praticiens à concevoir des systèmes équitables, offrant des performances uniformes ou comparables entre les groupes sensibles. Dans ce travail, nous étudions le biais de genre dans les réseaux de reconnaissance faciale basés sur l’apprentissage profond. Afin de mesurer ce biais, nous introduisons deux nouvelles métriques, $\mathrm{BFAR}$ et $\mathrm{BFRR}$, qui reflètent de manière plus pertinente les besoins intrinsèques de déploiement des systèmes de reconnaissance faciale. Motivés par des considérations géométriques, nous atténuons le biais de genre grâce à une nouvelle méthodologie de post-traitement qui transforme les embeddings profonds d’un modèle pré-entraîné afin d’accroître la puissance discriminante des sous-groupes discriminés. Cette approche consiste à entraîner un réseau neuronal léger en minimisant une perte Fair von Mises-Fisher dont les hyperparamètres prennent en compte la variance intra-classe de chaque sexe. De manière intéressante, nous observons empiriquement que ces hyperparamètres sont corrélés à nos métriques d’équité. En effet, des expérimentations numériques étendues sur divers jeux de données montrent qu’un choix soigneux de ces hyperparamètres permet de réduire significativement le biais de genre. Le code utilisé dans les expériences est disponible à l’adresse suivante : https://github.com/JRConti/EthicalModule_vMF.