Gender Shades : Disparités d'exactitude intersectionnelles dans la classification commerciale du genre
Gender Shades: Intersectional Accuracy Disparities in Commercial Gender ClassificationRésumé Cette étude présente une approche pour évaluer le biais dans les algorithmes d'analyse faciale automatisée et les ensembles de données par rapport aux sous-groupes phénotypiques. En utilisant le système de classification des types de peau de Fitzpatrick approuvé par les dermatologues, les chercheurs ont découvert des biais sévères liés au genre et au teint dans les systèmes commerciaux de classification du genre, les femmes à peau foncée présentant des taux d'erreur allant jusqu'à 34,7% contre seulement 0,8% pour les hommes à peau claire. Cette découverte révèle la discrimination intersectionnelle dans les systèmes d'IA et exige une attention urgente pour construire des algorithmes d'analyse faciale équitables, transparents et responsables.
Joy Buolamwini, Timnit Gebru / Lire l’étude