Algorithmes de l’oppression

Algorithmes de l’oppression commence par un geste ordinaire : chercher “Black girls” sur Google. À partir de 2009, Safiya Umoja Noble a documenté des résultats dominés pendant des années par la pornographie, la publicité sexualisée et les associations dégradantes, alors que la requête ne contenait aucun terme sexuel ; “white girls” produisait un paysage très différent. Elle n’y voit pas une ligne de mauvais code ultérieurement réparée. Elle demande qui définit la pertinence lorsqu’un moteur commercial devient l’une des principales portes par lesquelles élèves, médias et public apprennent ce qu’est une femme noire.

La réponse replace l’algorithme dans l’économie politique. Le classement n’est pas une vérité objectivement extraite du Web entier, mais le produit d’enchères publicitaires, d’optimisation, de clics, de règles d’entreprise et d’un pouvoir monopolistique. L’industrie pornographique et les grands annonceurs peuvent dépenser bien davantage que les communautés de filles noires pour occuper la visibilité autour de mots identitaires. Google invoque le secret commercial et la neutralité de l’automatisation, transformant le classement en processus technique sans acteur responsable. Dire que les résultats reflètent le désir des usagers cache qui peut fabriquer, acheter et amplifier ce désir.

Les résultats ne sont donc pas seulement des représentations offensantes : ils forment une infrastructure du savoir. Les premières pages acquièrent une apparence de crédibilité, de généralité et de légitimité, tandis que recherche scolaire et vie publique dépendent toujours davantage des moteurs. La plateforme joue simultanément les rôles de catalogue, de rédacteur et de marché publicitaire, sans accepter la responsabilité d’une institution publique de connaissance. L’« oppression algorithmique » désigne des hiérarchies raciales et genrées anciennes qui gagnent vitesse, échelle et autorité technique grâce à un nouveau système de classification.

Le féminisme noir empêche de séparer l’hypersexualisation des filles noires en une erreur raciale et une erreur de genre indépendantes. Les figures historiques de la Jezebel ou de la femme noire en colère sont réassemblées dans les extraits, complétions automatiques, images et publicités. Les femmes noires deviennent hypervisibles comme objets sexuels et invisibles comme élèves, professionnelles et personnes entières. Un audit limité aux catégories agrégées « femmes » ou « minorités » peut faire disparaître cette atteinte intersectionnelle dans les moyennes, même si chaque axe semble s’améliorer séparément.

La méthode n’est pas une inspection du code source de Google. Noble lit les sorties comme des textes culturels, suit mots-clés, annonces et classements dans le temps, puis les relie aux études noires, à l’histoire féministe des médias, aux sciences de l’information et à la classification des bibliothèques. Celles-ci ont elles aussi organisé le savoir par des vedettes racistes, coloniales et sexistes : la politique de la classification n’est pas née avec le numérique. Ce qui change, c’est le contrôle inédit d’entreprises privées sur la découverte, l’opacité et la volatilité de leurs règles, et l’absence de mécanismes durables d’audit ou de recours.

Le remède dépasse donc le recrutement d’ingénieurs plus divers ou le nettoyage des données. La représentation compte, mais quelques individus renversent difficilement les incitations du profit, du monopole et de la faible responsabilité juridique. Noble demande de traiter recherche et intelligence artificielle comme des objets de politique publique, de droit antidiscriminatoire, de recherche indépendante, de transparence et de systèmes d’information d’intérêt général. Études noires et ethniques, études de genre, humanités et bibliothéconomie ont leur place dans la conception. Dessiner une technologie pour la société sans étudier l’histoire de ses dominations est déjà un risque.

Le livre possède des limites identifiables. Ses cas centraux viennent d’années précises, du Web anglophone et de l’histoire raciale américaine ; les résultats ont depuis changé et une requête actuelle ne reproduira pas forcément les anciennes pages. Cette évolution n’invalide pas les preuves et ne démontre pas la sécurité présente. Noble analyse les sorties visibles et la structure commerciale, non un audit reproductible du code, et accorde moins de place aux moteurs non anglophones, aux plateformes du Sud global ou aux contre-pratiques des usagers. Appeler tout résultat indésirable « biais algorithmique » diluerait aussi sa critique précise du pouvoir institutionnel.

Trois niveaux peuvent guider les notes : quelle représentation apparaît, quel système commercial la récompense, et comment son rang affecte éducation, savoir public ou opportunités. Le cadre peut ensuite servir aux recommandations, à l’IA générative et aux grands modèles de langage, sans supposer qu’ils ne sont que des Google de 2018 agrandis : données, modèle d’affaires et chaîne de gouvernance doivent être réenquêtés. La contribution durable du livre n’est pas une liste d’erreurs anciennes. Elle consiste à demander devant chaque « réponse intelligente » : qui a défini la pertinence, qui supporte l’erreur et qui possède le pouvoir d’exiger un changement ?