Le féminisme des données pour l'IA

L’article de Lauren F. Klein et Catherine D’Ignazio déplace le data feminism dans le contexte actuel de l’IA. Il ne traite pas l’équité comme un simple ajustement de métriques de modèle. Il soutient plutôt que la recherche et la pratique de l’IA doivent commencer par l’analyse du pouvoir : qui définit le problème, qui fournit les données, qui est classé, qui supporte le coût des erreurs et qui peut refuser l’entrée d’un système dans sa vie.

Son importance est de donner à l’éthique de l’IA une méthode féministe plus forte. Intersectionnalité, savoirs situés, co-conception et refus du tort ne sont pas des déclarations de valeurs décoratives. Ce sont des principes pratiques pour décider si un système d’IA doit être construit, comment il doit être évalué et quand il doit être arrêté.

Pour FemRes, ce texte se lit avec Gender Shades, les travaux de Noble sur la technologie et la visualisation féministe des données. Il élève les ressources sur les biais de l’IA vers la méthodologie : la question n’est pas seulement de rendre l’IA plus exacte, mais de rendre le design technique responsable face au pouvoir et au tort.