Qui a défini la catégorie ?
Lire risque, genre, mérite et normalité comme des décisions historiques, non comme des propriétés naturelles découvertes par un modèle.
Découvrez du contenu féministe sélectionné sur Féminisme des données
Guide FemRes
Le data feminism commence avant l'ouverture d'un tableur ou l'entraînement d'un modèle. Il demande qui a eu l'autorité de définir le problème, créer les catégories, recueillir les preuves et décider de ce qui ne serait pas compté. Les données ne décrivent pas simplement un monde déjà là. Budgets, institutions et classifications héritées rendent certaines vies extrêmement lisibles, tandis que d'autres formes de travail, de préjudice et d'identité restent absentes, déformées ou visibles seulement pour les dispositifs de contrôle.
Une absence peut signaler la négligence : médecine conçue autour des corps masculins, indicateurs économiques qui effacent le care gratuit, institutions incapables de documenter les violences subies par les personnes marginalisées. Mais la réponse n'est pas toujours de collecter davantage. Les mêmes groupes privés de reconnaissance peuvent être surmesurés par la police, l'aide sociale, les frontières et les plateformes. La justice des données doit distinguer le droit d'être compté du droit de ne pas être capturé, et la responsabilité publique de l'extraction déguisée en inclusion.
Le biais algorithmique n'est donc pas seulement un échantillon défectueux à réparer. Classement des moteurs, analyse faciale, scores de risque et automatisation des droits fonctionnent dans des institutions racialisées et genrées. Améliorer la précision peut répartir plus également les décisions d'une institution sans rendre ces décisions légitimes. L'intersectionnalité cherche les torts concentrés que cachent les agrégats ; le savoir situé demande quelles expériences peuvent contester le modèle officiel ; la design justice demande si les personnes concernées peuvent fixer les buts, contrôler les ressources et refuser le déploiement.
L'archive rend aussi visibles le travail et la matérialité des données. Annotation, modération, maintenance, documentation communautaire, extraction minière et énergie soutiennent des interfaces dites fluides ou intelligentes. Une approche féministe relie représentation et économie politique : qui est représenté, qui travaille, qui possède l'infrastructure, qui supporte l'erreur et le coût écologique, qui peut exiger réparation ? Son but n'est pas un jeu de données parfaitement neutre, mais un pouvoir démocratique sur ce qui est mesuré, construit et autorisé à gouverner la vie.
Lire risque, genre, mérite et normalité comme des décisions historiques, non comme des propriétés naturelles découvertes par un modèle.
Une lacune peut signaler la négligence ou protéger de la surveillance. Demander qui veut collecter et qui supporte le risque.
Un modèle peut classer tous les groupes avec la même précision tout en renforçant une institution dont le but ou le pouvoir coercitif reste injuste.
La participation n'est un pouvoir que si elle peut modifier catégories, budgets, propriété, déploiement et possibilité de refus.
Partir des biais visibles vers l'audit intersectionnel et la co-conception, puis suivre les systèmes à travers travail, protection sociale, infrastructure et pouvoir institutionnel.
15 minutes
Commencer par les biais de l'IA au travail, puis voir comment la visualisation organise autorité, incertitude, corps et attention.
Une heure
Relier recherche commerciale, tests intersectionnels et conception communautaire pour comprendre pourquoi le diagnostic doit redistribuer l'autorité.
Étude approfondie
Construire une méthode féministe, puis suivre extraction, services publics automatisés et classification racialisée de l'infrastructure aux effets quotidiens.
Sujets voisins
12 · Féminisme des données

Livres · mars 2023
Un ouvrage puissant de Meredith Broussard, professeure à NYU, data scientist et l'une des rares femmes noires chercheuses en IA. Elle révèle comment la neutralité technologique est un mythe et pourquoi les algorithmes ont besoin de responsabilité. De la reconnaissance faciale entraînée uniquement sur des teints clairs aux algorithmes de prêt immobilier encourageant la discrimination, en passant par les boucles de rétroaction dangereuses dans les diagnostics médicaux. La solution n'est pas de rendre la tech omniprésente plus inclusive, mais d'éradiquer les algorithmes qui ciblent certaines populations comme 'autres'.
02
Livres · avr. 2021
Kate Crawford cartographie l’IA par les minerais, l’énergie, le travail invisible, les données, la classification et la surveillance d’État, révélant l’extraction et la concentration du pouvoir sous l’intelligence machine.
03
Livres · mars 2020
Il propose sept principes pratiques qui inscrivent analyse du pouvoir, intersectionnalité, savoirs situés et co-conception dans le travail des données.
04
Livres · mars 2020
À partir du contrôle aéroportuaire trans et de la justice du handicap, Sasha Costanza-Chock défend un design dirigé par les communautés concernées, où bénéfice, propriété et responsabilité priment sur les bonnes intentions.
05
Livres · juil. 2019
Ruha Benjamin nomme le « New Jim Code » et montre comment l’automatisation reconditionne le contrôle racial sous le langage de l’innovation.
06
Livres · mars 2019
Un exposé choquant sur la façon dont le monde est conçu pour les hommes comme « défaut », ignorant systématiquement les données des femmes. Couvrant les soins de santé, la technologie, l'urbanisme et l'économie, Caroline Criado Perez révèle comment les biais de données invisibles impactent sérieusement la santé, la sécurité et les vies des femmes.
Publications · juin 2024
Klein et D'Ignazio appliquent les principes de Data Feminism à l'IA, appelant à des pratiques fondées sur l'analyse du pouvoir, l'intersectionnalité, la co-conception, les savoirs situés et le refus du tort.
02Publications · févr. 2018
Une étude révolutionnaire de 2018 publiée à la conférence FAccT révélant un biais sévère dans les systèmes commerciaux de reconnaissance faciale contre les femmes à peau foncée, avec des taux d'erreur allant jusqu'à 34,7% contre seulement 0,8% pour les hommes à peau claire.
03Publications · oct. 2016
D'Ignazio et Klein introduisent la théorie féministe dans la visualisation de données, en proposant de repenser l'expression des données à partir du pouvoir, de l'affect, du corps, de la positionnalité et de l'incertitude.