Le féminisme des données pour l'IA

Lauren Klein et Catherine D’Ignazio ne transforment pas les sept principes de Data Feminism en grille de notation des modèles déjà construits. Présenté à la conférence FAccT de 2024, cet article théorique explique pourquoi le féminisme des données reste nécessaire pour comprendre l’IA : il faut examiner non seulement les biais d’un modèle, mais aussi qui fixe les priorités de recherche, quelles données sont collectées et interprétées, qui possède l’infrastructure et comment bénéfices et coûts sont distribués. Les autrices mobilisent l’intersectionnalité pour analyser le pouvoir structurel, non pour ajouter quelques étiquettes identitaires à un modèle. Elles réarticulent les sept principes de Data Feminism dans le contexte de l’IA ; l’impact environnemental et le consentement sont deux pistes à approfondir, et non des ajouts définitifs au cadre. Le PDF officiel de la conférence indique la référence des actes et les dates de FAccT, du 3 au 6 juin 2024 (pagination imprimée, p. 100–112).

Le principe « examiner le pouvoir » prend forme dans l’exemple des services états-uniens de sélection des locataires. Ces systèmes combinent dossiers d’expulsion, d’arrestation et scores de crédit pour prédire la capacité à payer un loyer. Les dossiers sont hétérogènes et produits par un secteur du logement profondément racialisé : une notation automatisée peut donc requalifier une exclusion existante en prédiction neutre. Les autrices relèvent aussi une asymétrie informationnelle : les propriétaires peuvent accumuler des données sur les locataires, tandis que ceux-ci manquent souvent d’outils pour repérer les expulsions abusives ou le défaut d’entretien des logements. L’objectif d’une conception féministe de l’IA se déplace alors : plutôt que d’aider les propriétaires à sélectionner plus efficacement, il s’agirait d’imaginer des outils renforçant le savoir et le pouvoir collectifs des locataires (p. 102–103). Une meilleure précision, à elle seule, ne change pas nécessairement les intérêts servis ni l’institution consolidée.

La discussion des savoirs situés et de l’incarnation demande quelles alertes sont reconnues comme des connaissances. Klein et D’Ignazio reviennent sur l’audit de la reconnaissance faciale mené par Joy Buolamwini à partir de son propre visage, ainsi que sur des recherches dirigées par des femmes noires qui ont documenté misogynie, racisme et violences sexuelles dans les jeux de données multimodaux de LAION. L’expérience vécue n’est pas un bruit qui compromettrait l’objectivité : elle peut constituer un point de vue indispensable pour déceler des torts que les évaluations dominantes ignorent. La question porte aussi sur la répartition de l’autorité : selon l’article, les alertes des équipes dirigées par des femmes noires ont reçu davantage d’attention institutionnelle après avoir été reproduites par des chercheurs blancs de Stanford (p. 104–105). La « représentation » ne concerne donc pas seulement la diversité des échantillons, mais aussi le droit d’interpréter les preuves et la reconnaissance accordée par les institutions.

Un autre exemple est celui d’un outil de classification de nouvelles conçu avec des militantes féministes des données à travers les Amériques. Le projet voulait d’abord employer l’apprentissage automatique pour repérer les articles sur le féminicide et alléger leur travail de classement. Les militantes se sont opposées à une automatisation complète : la définition du féminicide ne peut être généralisée sans tenir compte des contextes, et documenter les personnes tuées relève aussi d’une justice mémorielle, pas seulement d’une tâche à accélérer. La co-conception n’a donc pas consisté à demander un avis avant le lancement ; elle a changé l’objectif de l’outil et les limites de l’automatisation. L’article indique que l’outil issu du projet a ensuite été utilisé par des organisations de suivi des droits humains (p. 105–106). La question décisive n’est pas simplement de savoir si l’IA peut classer, mais qui peut refuser lorsque la mémoire politique devient un processus extensible — et si ce refus transforme réellement la conception.

Le principe « rendre le travail visible » déplace le regard de l’intelligence apparente à l’écran vers celles et ceux qui la rendent possible. L’annotation des données et la modération des contenus se situent souvent au bas des hiérarchies professionnelles de la technologie ; les autrices relient ces écarts de statut et de rémunération à des divisions du travail genrées, racialisées et coloniales. Elles citent une enquête publiée après le lancement de ChatGPT, selon laquelle des travailleurs au Kenya examinaient en temps réel des réponses potentiellement dangereuses (p. 107–108). Il s’agit d’un cas existant mobilisé pour développer leur argument, et non d’une enquête sur le travail menée par les autrices. Réintroduire ces personnes dans le récit de l’IA modifie le sens de l’« automatisation » : le travail humain ne disparaît pas ; ce sont ses conditions, sa rémunération et le pouvoir de parole des travailleurs qui sont effacés.

La discussion traite l’impact environnemental et le consentement comme des sujets à approfondir. Les autrices replacent la consommation d’eau et d’électricité de l’IA dans l’histoire de l’extraction capitaliste et coloniale des ressources, dont les coûts environnementaux sont répartis de manière inégale selon la géographie et le genre. Elles demandent également si un consentement pensé comme permission individuelle, binaire et ponctuelle suffit pour examiner la provenance des données d’entraînement, les images intimes synthétisées sans accord ou les relations d’interdépendance. Elles proposent d’explorer des formes collectives, interdépendantes et queer du consentement (p. 108–109). Ces éléments constituent une discussion et un programme de recherche, pas des normes opérationnelles déjà définies. Leur intérêt est de rendre visibles les coûts d’infrastructure et les responsabilités relationnelles que peut masquer un score de « modèle équitable ».

Les limites de l’article comptent également. Il s’agit d’une synthèse théorique de recherches antérieures, d’exemples et de principes, non d’une évaluation empirique démontrant qu’un cadre rend les systèmes d’IA équitables. Ses cas sont ancrés dans des contextes politiques et géographiques précis ; ils ne prouvent pas que toutes les communautés vivent les mêmes expériences. Pour prolonger la lecture, rapprocher cet article de Data Feminism permet de revenir aux fondements des sept principes ; Feminist Data Visualization montre ensuite comment les mêmes autrices appliquent l’épistémologie féministe à la représentation des données. Lire le PDF de la conférence FAccT ; la notice bibliographique et le DOI sont accessibles dans la bibliothèque numérique de l’ACM.