FemResLa revue vivante

Féminisme des données

Découvrez du contenu féministe sélectionné sur Féminisme des données

012
12 éléments
06
Chemins de relation

Guide FemRes

Les données ne sont pas neutres : le pouvoir décide ce qui devient donnée

Le data feminism commence avant l'ouverture d'un tableur ou l'entraînement d'un modèle. Il demande qui a eu l'autorité de définir le problème, créer les catégories, recueillir les preuves et décider de ce qui ne serait pas compté. Les données ne décrivent pas simplement un monde déjà là. Budgets, institutions et classifications héritées rendent certaines vies extrêmement lisibles, tandis que d'autres formes de travail, de préjudice et d'identité restent absentes, déformées ou visibles seulement pour les dispositifs de contrôle.

Une absence peut signaler la négligence : médecine conçue autour des corps masculins, indicateurs économiques qui effacent le care gratuit, institutions incapables de documenter les violences subies par les personnes marginalisées. Mais la réponse n'est pas toujours de collecter davantage. Les mêmes groupes privés de reconnaissance peuvent être surmesurés par la police, l'aide sociale, les frontières et les plateformes. La justice des données doit distinguer le droit d'être compté du droit de ne pas être capturé, et la responsabilité publique de l'extraction déguisée en inclusion.

Le biais algorithmique n'est donc pas seulement un échantillon défectueux à réparer. Classement des moteurs, analyse faciale, scores de risque et automatisation des droits fonctionnent dans des institutions racialisées et genrées. Améliorer la précision peut répartir plus également les décisions d'une institution sans rendre ces décisions légitimes. L'intersectionnalité cherche les torts concentrés que cachent les agrégats ; le savoir situé demande quelles expériences peuvent contester le modèle officiel ; la design justice demande si les personnes concernées peuvent fixer les buts, contrôler les ressources et refuser le déploiement.

L'archive rend aussi visibles le travail et la matérialité des données. Annotation, modération, maintenance, documentation communautaire, extraction minière et énergie soutiennent des interfaces dites fluides ou intelligentes. Une approche féministe relie représentation et économie politique : qui est représenté, qui travaille, qui possède l'infrastructure, qui supporte l'erreur et le coût écologique, qui peut exiger réparation ? Son but n'est pas un jeu de données parfaitement neutre, mais un pouvoir démocratique sur ce qui est mesuré, construit et autorisé à gouverner la vie.

Quatre questions pour parcourir l’archive

Qui a défini la catégorie ?

Lire risque, genre, mérite et normalité comme des décisions historiques, non comme des propriétés naturelles découvertes par un modèle.

Que signifie l'absence ?

Une lacune peut signaler la négligence ou protéger de la surveillance. Demander qui veut collecter et qui supporte le risque.

La précision rend-elle le système juste ?

Un modèle peut classer tous les groupes avec la même précision tout en renforçant une institution dont le but ou le pouvoir coercitif reste injuste.

Les personnes concernées peuvent-elles décider ?

La participation n'est un pouvoir que si elle peut modifier catégories, budgets, propriété, déploiement et possibilité de refus.

Choisir une entrée

Partir des biais visibles vers l'audit intersectionnel et la co-conception, puis suivre les systèmes à travers travail, protection sociale, infrastructure et pouvoir institutionnel.

Chemins de relation

Sujets voisins

Composition

Lire à travers cet enjeu

12 · Féminisme des données

Livres

Tout voir
01

Livres · mars 2023

Plus qu'un bug : Affronter les biais de race, de genre et de capacité dans la tech

More Than a Glitch: Confronting Race, Gender, and Ability Bias in TechMeredith Broussard

Un ouvrage puissant de Meredith Broussard, professeure à NYU, data scientist et l'une des rares femmes noires chercheuses en IA. Elle révèle comment la neutralité technologique est un mythe et pourquoi les algorithmes ont besoin de responsabilité. De la reconnaissance faciale entraînée uniquement sur des teints clairs aux algorithmes de prêt immobilier encourageant la discrimination, en passant par les boucles de rétroaction dangereuses dans les diagnostics médicaux. La solution n'est pas de rendre la tech omniprésente plus inclusive, mais d'éradiquer les algorithmes qui ciblent certaines populations comme 'autres'.

02

Livres · avr. 2021

Atlas de l’IA

Atlas of AIKate Crawford

Kate Crawford cartographie l’IA par les minerais, l’énergie, le travail invisible, les données, la classification et la surveillance d’État, révélant l’extraction et la concentration du pouvoir sous l’intelligence machine.

03

Livres · mars 2020

Féminisme des données

Data FeminismCatherine D'Ignazio and Lauren F. Klein

Il propose sept principes pratiques qui inscrivent analyse du pouvoir, intersectionnalité, savoirs situés et co-conception dans le travail des données.

04

Livres · mars 2020

Justice du design

Design JusticeSasha Costanza-Chock

À partir du contrôle aéroportuaire trans et de la justice du handicap, Sasha Costanza-Chock défend un design dirigé par les communautés concernées, où bénéfice, propriété et responsabilité priment sur les bonnes intentions.

05

Livres · juil. 2019

La race après la technologie

Race After Technology: Abolitionist Tools for the New Jim CodeRuha Benjamin

Ruha Benjamin nomme le « New Jim Code » et montre comment l’automatisation reconditionne le contrôle racial sous le langage de l’innovation.

06

Livres · mars 2019

Femmes invisibles : Les biais de données dans un monde conçu pour les hommes

Invisible Women: Data Bias in a World Designed for MenCaroline Criado Perez

Un exposé choquant sur la façon dont le monde est conçu pour les hommes comme « défaut », ignorant systématiquement les données des femmes. Couvrant les soins de santé, la technologie, l'urbanisme et l'économie, Caroline Criado Perez révèle comment les biais de données invisibles impactent sérieusement la santé, la sécurité et les vies des femmes.

Articles

Publications