HyperAIHyperAI

Command Palette

Search for a command to run...

Atténuation du biais de genre dans la reconnaissance faciale à l’aide du modèle à mélange de von Mises-Fisher

Jean-Rémy Conti Nathan Noiry Vincent Despiegel Stéphane Gentric Stéphan Clémençon

Résumé

Malgré les performances élevées et la fiabilité des algorithmes d’apprentissage profond dans un large éventail d’applications courantes, de nombreuses études montrent que de nombreux modèles présentent des biais, discriminant des sous-groupes spécifiques de la population (par exemple, le genre, l’ethnie). Cela incite les praticiens à concevoir des systèmes équitables, offrant des performances uniformes ou comparables entre les groupes sensibles. Dans ce travail, nous étudions le biais de genre dans les réseaux de reconnaissance faciale basés sur l’apprentissage profond. Afin de mesurer ce biais, nous introduisons deux nouvelles métriques, BFAR\mathrm{BFAR}BFAR et BFRR\mathrm{BFRR}BFRR, qui reflètent de manière plus pertinente les besoins intrinsèques de déploiement des systèmes de reconnaissance faciale. Motivés par des considérations géométriques, nous atténuons le biais de genre grâce à une nouvelle méthodologie de post-traitement qui transforme les embeddings profonds d’un modèle pré-entraîné afin d’accroître la puissance discriminante des sous-groupes discriminés. Cette approche consiste à entraîner un réseau neuronal léger en minimisant une perte Fair von Mises-Fisher dont les hyperparamètres prennent en compte la variance intra-classe de chaque sexe. De manière intéressante, nous observons empiriquement que ces hyperparamètres sont corrélés à nos métriques d’équité. En effet, des expérimentations numériques étendues sur divers jeux de données montrent qu’un choix soigneux de ces hyperparamètres permet de réduire significativement le biais de genre. Le code utilisé dans les expériences est disponible à l’adresse suivante : https://github.com/JRConti/EthicalModule_vMF.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Atténuation du biais de genre dans la reconnaissance faciale à l’aide du modèle à mélange de von Mises-Fisher | Articles | HyperAI