Coded Bias

Un masque blanc permet à l’ordinateur de détecter un visage qu’il ne repérait pas auparavant. Coded Bias fait de cette expérience l’entrée d’une question plus large : lorsque la technique décide qui peut être reconnu, jugé fiable ou accéder à une occasion, qui peut examiner ses règles ? Le documentaire de Shalini Kantayya suit l’enquête de Joy Buolamwini et la relie au travail d’autres chercheuses et militantes. Le problème dépasse une caméra défaillante : une technologie peut devenir un guichet institutionnel avant que les personnes concernées disposent des moyens de la contester.

Le visage manquant déplace l’expertise

L’expérience de Buolamwini relie l’évaluation technique à un corps pour lequel le système n’était pas optimisé. Sa recherche avec Timnit Gebru, Gender Shades, rend les écarts de performance examinables par sous-groupes. L’expérience porte sur la classification commerciale du genre, pas sur l’exactitude de tous les systèmes d’identification. La précision du périmètre renforce la preuve sans supprimer sa portée politique.

Le film change aussi l’image attendue de l’expertise technologique. Femmes et personnes racisées ne sont pas seulement des utilisatrices blessées invitées à raconter leurs émotions une fois l’invention achevée. Elles enquêtent, interprètent des résultats et formulent des exigences publiques. Ce déplacement compte : les personnes qui rencontrent un échec sont souvent traitées comme des cas particuliers, tandis que celles dont le corps convient au système conservent le pouvoir de définir son fonctionnement normal.

Dans son entretien de réalisatrice, Kantayya explique que cette orientation suit les personnes qu’elle a trouvées à la tête de la contestation. Leur présence importe lorsqu’elle transforme les questions posées et les préjudices examinés. Diversifier les expertes ne suffit pourtant pas à transférer le contrôle des produits d’une entreprise ou des achats d’une administration.

Le documentaire emprunte à la science-fiction

Le sujet résiste à la prise de vue : les modèles et infrastructures peuvent produire des effets sensibles sans rendre leur fonctionnement visible. Kantayya décrit l’usage d’effets graphiques, d’un point de vue simulant celui de la machine et d’une voix d’IA pour donner forme à cette opacité. Le traitement du chatbot Tay de Microsoft passe de propos documentés à une voix construite. Il s’agit d’un dispositif cinématographique, pas d’un accès à la conscience artificielle.

Le procédé rend un système abstrait plus accessible, mais crée une tension. Une voix mémorable peut concentrer l’attention tout en suggérant qu’une intelligence autonome unique relie des applications différentes. Recrutement, police et administration sociale ont des institutions, des données et des recours distincts. Une lecture féministe peut apprécier l’imagination du film tout en demandant où restituer ces différences.

La conversation avec Filmmaker demande également quels futurs de science-fiction deviennent le sens commun du développement technologique. Recentrer les savoirs des femmes transforme les personnes autorisées à critiquer une invention autant que celles qui peuvent imaginer des alternatives. L’objectif dépasse l’admission dans un avenir déjà décidé par d’autres.

Être mieux reconnu peut accroître l’exposition

Une meilleure détection ne constitue pas automatiquement un bénéfice. Un système qui reconnaît plus précisément les visages à peau foncée peut aussi rendre la surveillance plus efficace. La nécessité de l’usage, l’existence de choix réels et la possibilité de contester le déploiement sont des questions politiques distinctes. L’exactitude ne tranche pas seule la légitimité.

Le film relie la recherche à l’organisation collective et au contrôle public. Ce lien résiste au dénouement rassurant où une scientifique découvre un défaut, une entreprise le répare et la discrimination disparaît. Une suspension commerciale volontaire n’est pas un droit durable. Des décisions ultérieures ne doivent pas non plus être attribuées rétroactivement à une seule étude sans preuve sur leur date et leurs causes.

L’enjeu dépasse donc la sympathie du public. Lorsque collecte biométrique ou sélection automatisée conditionnent l’accès ordinaire aux services, le prétendu consentement peut être une acceptation contrainte. En faire une question de droits civiques rend visibles les obligations institutionnelles, au lieu d’exiger de chacun une aptitude exceptionnelle à se cacher des caméras.

Voir le biais, puis transformer l’autorité

Le guide pédagogique officiel ouvre des discussions sur les décisions automatisées et le contrôle communautaire. Il faut aussi garder le contexte historique du film : les technologies et controverses documentées autour de 2020 ne prouvent pas l’état actuel de toutes les juridictions ou de tous les modèles. Le documentaire intervient dans une lutte qui continue ; il ne certifie pas sa victoire.

À lire avec Féminisme des données pour penser catégories, contexte et travail, puis Not My AI, dont les cas latino-américains demandent si l’automatisation est nécessaire. The Cleaners expose une autre face de l’automatisation apparente : les personnes dont les jugements font fonctionner les plateformes. Ensemble, ces œuvres déplacent la question de savoir si la machine voit tout le monde vers celle du pouvoir de décider comment chacun doit être vu.