La race après la technologie

Dans Race After Technology: Abolitionist Tools for the New Jim Code, Ruha Benjamin demande pourquoi des systèmes présentés comme objectifs, efficaces ou progressistes reproduisent encore les hiérarchies raciales, et pourquoi le langage de l’innovation rend cette continuité moins visible. Le « New Jim Code » désigne les dispositifs qui inscrivent l’inégalité dans la conception tout en paraissant plus neutres que les institutions antérieures. Il s’agit d’une analogie sur la réorganisation du contrôle racial, non d’une affirmation selon laquelle un logiciel contemporain serait juridiquement identique aux lois Jim Crow. L’apport féministe du livre tient à cette idée : un choix technique est aussi un choix social, qui distribue visibilité, risque, travail et pouvoir de décision.

Benjamin organise son diagnostic autour de quatre mécanismes liés. L’« engineered inequity » interroge la façon dont une hiérarchie est intégrée à un dispositif ou à sa conception ; la « default discrimination » examine les effets d’un design qui traite une société inégale comme si elle était neutre ; le « coded exposure » porte sur les conditions de visibilité et de surveillance ; la « technological benevolence » demande si les produits qui prétendent corriger les préjugés changent réellement la répartition du pouvoir. Ces notions déplacent la question au-delà de l’existence d’une erreur mesurable dans un algorithme : quelle histoire le système hérite-t-il ? Que ses concepteurs définissent-ils comme un problème ? Les personnes concernées peuvent-elles contester ses décisions ?

Dans sa recension complète publiée par l’E3W Review of Books de l’Université du Texas à Austin, Hannah Robbins Hopkins décrit la première partie à travers des robots destinés à la police, à l’armée, au marché sexuel et aux tâches domestiques. Cette diversité importe pour une lecture féministe : la machine domestique imaginée comme une « aide » et la machine coercitive de l’État pénal semblent être des produits différents, mais peuvent partager des présupposés sur qui sert, qui reçoit le service et quelle sécurité est prioritaire. Il ne s’agit pas d’affirmer que tous les robots causent les mêmes dommages, mais de voir comment un objet technique peut présenter un ordre social comme naturel, inévitable ou soustrait à la responsabilité publique.

Le chapitre sur la discrimination par défaut reformule la notion de « bug ». Lorsqu’un système automatisé exclut ou classe mal certaines personnes, il peut révéler les normes ordinaires intégrées au design plutôt qu’une panne isolée. Hopkins rapporte l’analyse que Benjamin consacre à la police prédictive et aux calculs de risque de récidive : ces prédictions peuvent sembler exactes tout en intensifiant la surveillance des personnes déjà désignées comme risquées. Un cercle se crée alors : la surveillance produit des dossiers, ces dossiers entraînent les prédictions suivantes, qui justifient à leur tour davantage de surveillance. Appeler cela un simple bug risque de faire passer un agencement politique durable pour un problème technique temporaire.

Le « coded exposure » montre pourquoi demander simplement d’« inclure davantage de personnes » ne suffit pas. Certains deviennent invisibles lorsqu’un système ne les reconnaît pas ou ne les sert pas ; d’autres sont surexposés comme cibles de surveillance. Être visible ne signifie donc pas automatiquement être reconnu ou en sécurité. Hopkins note que Benjamin relie cette tension aux représentations raciales, à l’histoire eugéniste et aux technologies contemporaines. La question féministe n’est pas seulement de savoir qui apparaît dans une image ou une base de données, mais qui fixe les conditions de cette apparition, quelle parole est crue et comment les institutions utilisent les informations recueillies.

La critique de la « technological benevolence » vise enfin les correctifs proposés de bonne foi. Un produit peut promettre l’équité, l’inclusion ou la neutralité tout en définissant le problème si étroitement qu’il laisse intacte la hiérarchie — voire la rend plus efficace. Diversifier une équipe d’ingénierie ou corriger un jeu de données ne suffit pas à répondre aux questions décisives : qui a fixé l’objectif du système, qui bénéficie de l’automatisation et qui en supporte les coûts ? L’horizon abolitionniste de Benjamin invite à imaginer des relations sociales qui ne reposent pas sur l’automatisation de la police, de l’exclusion ou de l’extraction, et à considérer les pratiques collectives comme des sources d’invention. Sa proposition dépasse donc « réduire le biais du modèle » : elle demande aussi si le système devrait exister sous cette forme.

Ce cadre éclaire d’autres technologies, mais ne doit pas devenir une théorie universelle de tous les ordres raciaux. Sa généalogie s’ancre dans l’histoire de la racialisation aux États-Unis; la présence de cas internationaux ne transforme pas le livre en enquête comparative exhaustive. Pour l’appliquer ailleurs, il faut d’abord examiner les histoires, catégories et institutions locales plutôt que transposer directement l’analogie du New Jim Code. Mettre en regard Safiya Umoja Noble, Algorithms of Oppression, permet d’approfondir la recherche et la représentation; Automating Inequality de Virginia Eubanks éclaire l’automatisation des prestations sociales et de l’éligibilité. Les exemples de chapitres ci-dessus sont attribués à la recension de Hopkins. Voir la page du livre de l’autrice, la notice IUCAT et la recension intégrale.