Automatiser l’inégalité

Automatiser l’inégalité ne porte pas sur une future superintelligence hors de contrôle, mais sur des systèmes administratifs qui décident déjà de l’accès à l’alimentation, aux soins, au logement et à l’intégrité familiale. Virginia Eubanks enquête sur l’admissibilité automatisée aux prestations en Indiana, l’attribution de logements aux sans-abri à Los Angeles et un modèle de risque pour la protection de l’enfance dans le comté d’Allegheny. Les expériences des personnes concernées montrent que l’algorithme ne retire pas la politique : il inscrit pénurie, soupçon envers les pauvres et punition de la demande d’aide dans une nouvelle procédure.

L’Indiana révèle comment l’« efficacité » devient une machine à refuser. Après le transfert de l’administration à des prestataires privés et des systèmes distants, formulaire incomplet, appel manqué ou document mal transmis pouvaient signifier « refus de coopérer ». En trois ans, environ un million de demandes de santé, alimentation et aide financière furent rejetées. L’erreur n’était plus corrigée par un agent connaissant le foyer, mais dispersée entre centres d’appel, bases et recours. L’automatisation n’a pas réduit la pauvreté ; elle a réduit l’obligation de rencontrer les demandeurs et de rendre des comptes.

Los Angeles affronte une offre de logements très inférieure aux besoins. Un questionnaire convertit santé, traumatismes, violence et vie dans la rue en score de vulnérabilité pour classer les candidats. Ce classement peut être plus cohérent qu’une improvisation, mais ne crée aucun logement. Il exige aussi des personnes qu’elles échangent leur histoire intime contre une place. Un score élevé n’empêche pas des années d’attente ; un score faible peut exclure quelqu’un qui ne serait pas assez vulnérable. La question politique du manque de logements devient une gestion plus fine de la pénurie.

La protection de l’enfance montre comment les données confondent pauvreté et danger. Le modèle utilise l’historique des services publics. Les familles pauvres rencontrent davantage les organismes sociaux, médicaux et judiciaires, et laissent donc plus de traces calculables. Les familles aisées achètent des services privés et demeurent moins visibles ; mères pauvres, familles noires, parents handicapés et foyers monoparentaux deviennent plus faciles à signaler et à enquêter. La prédiction produit une boucle : la surveillance crée des dossiers qui justifient davantage de surveillance.

Eubanks nomme cette structure le « digital poorhouse », la reliant à l’histoire américaine du gouvernement de la pauvreté. Hospices, tests d’admissibilité et charité scientifique séparaient pauvres méritants et non méritants pour limiter l’aide. Croisement de données, détection de fraude et prédiction du risque héritent de cette morale en donnant à l’exclusion un visage objectif. L’enjeu féministe est direct : mères, aidantes, personnes handicapées et survivantes de violence dépendent davantage des services publics et sont surveillées parce qu’elles demandent de l’aide. L’antifraude transforme des stratégies de survie en fautes morales.

Le livre ne dit ni que la technologie est mauvaise en soi, ni que les bureaucrates humains sont justes. Des systèmes transparents, contestables et dotés de ressources suffisantes peuvent réduire l’arbitraire. Le problème vient d’une automatisation inscrite dans l’austérité et la punition, expérimentée d’abord sur les personnes les moins puissantes. Trois cas américains ne représentent pas tous les pays ni les modèles ultérieurs. La question durable est de savoir si la technique étend ressources et autonomie ou rend moins coûteux le refus, la surveillance et la séparation familiale.

FemRes peut en tirer un test précis : le système répond-il au besoin ou se contente-t-il de le classer ? Les personnes connaissent-elles les données utilisées et peuvent-elles comprendre et contester la décision ? Qui peut sortir du système et qui doit céder son intimité pour survivre ? Qui répare les erreurs et vers qui les économies sont-elles transférées ? À lire avec les luttes pour les droits sociaux, l’abolition de la surveillance familiale, la justice du handicap et l’économie du care. Sans justice distributive, une allocation plus intelligente ne fait que gérer plus proprement l’inégalité.