Techniquement faux

Dans Techniquement faux, Sara Wachter-Boettcher examine comment les produits numériques du quotidien définissent discrètement la personne qui serait un « utilisateur normal ». Les exemples cités par l’éditeur semblent ordinaires : formulaires d’inscription inadaptés aux personnes qui ne sont pas hétérosexuelles, réseaux sociaux envoyant un bilan annuel enjoué au sujet de proches décédés, chatbots qui harcèlent les femmes et algorithmes contribuant à incarcérer davantage de personnes noires. Ces défaillances n’ont pas la même ampleur, mais elles se rejoignent dans une question de conception : quelle vie l’équipe produit a-t-elle imaginée, et que se passe-t-il pour les personnes que l’interface ou le modèle n’a pas anticipées ?

Cette question éloigne l’analyse du réconfortant « simple bug ». Un formulaire qui ne propose que des catégories étroites de genre ou de famille transforme une hypothèse institutionnelle en complication personnelle pour l’utilisateur. Une fonctionnalité automatisée de souvenirs peut traiter le deuil comme une nouvelle occasion d’engagement, faute de comprendre le contexte de manière significative. Un outil prédictif peut convertir des inégalités historiques en score technique, puis faire passer ce score pour objectif. Dans chaque cas, les frictions, la visibilité et les risques sont distribués de façon inégale. L’interface n’est pas la cause entière du problème : elle rend tangibles, pour la personne qui l’utilise, des décisions plus profondes sur les données, les tests, les objectifs du produit et la responsabilité.

Wachter-Boettcher relie ces échecs aux valeurs et aux méthodes de travail de l’industrie technologique. Elle conteste l’idée que de bonnes intentions ou quelques recrutements plus divers suffiraient à corriger un système bâti sur des hypothèses étroites. La représentation compte, mais elle doit s’accompagner d’un pouvoir réel : qui choisit les questions de recherche ? Quels préjudices empêchent le lancement ? Qui peut arrêter une mise en production ? Les personnes concernées peuvent-elles façonner la réponse ? Le langage du « centrage utilisateur » reste vide si une organisation n’écoute que celles et ceux qui correspondent déjà à son utilisateur par défaut. La conception éthique n’est pas un audit final ajouté une fois l’interface terminée ; c’est une responsabilité continue qui traverse recherche, ingénierie, contenu, direction et décisions commerciales.

Le livre rend la critique structurelle particulièrement accessible en partant d’interactions familières. On reconnaît les petites exclusions — un champ qui refuse certains noms, un service qui suppose une seule forme de famille — puis on peut les relier à des rapports de pouvoir organisationnels plus vastes. Ce passage de la gêne quotidienne à la responsabilité institutionnelle intéresse aussi les lecteurs qui ne travaillent pas dans le design. Il fournit des questions pour évaluer un produit : quelles catégories sont intégrées par défaut ? Quelles expériences manquent aux données d’entraînement ou de test ? Qui paie le coût d’une erreur ? Quel recours existe lorsqu’un système d’entreprise cause un préjudice ? Le résultat d’un algorithme ne devient pas neutre du seul fait qu’il est automatisé.

Les enjeux de ces exemples ne sont pas équivalents et ne doivent pas être aplatis. Un formulaire qui rejette un nom ou une configuration familiale impose un travail quotidien répété et signale à la personne qu’elle n’est pas à sa place ; un score prédictif utilisé par la justice pénale peut peser à une autre échelle sur la liberté. La comparaison ne revient pas à déclarer ces préjudices identiques : elle révèle, dans les deux cas, une chaîne de décisions organisationnelles souvent cachée derrière le mot « technique ». La suivre consiste à demander ce que le système optimise, ce qu’il enregistre comme réussite, qui le teste et qui peut le corriger. Le design inclusif devient alors une question de responsabilité, non une liste de champs à cocher.

La notice de FemRes correspond à l’édition brochée de 2018 (ISBN 9780393356045) ; le livre a d’abord paru en 2017. Ses exemples appartiennent donc à la période qui précède l’arrivée de l’IA générative dans les produits grand public. L’ouvrage offre un socle pour diagnostiquer les biais technologiques, non un audit des grands modèles de langage contemporains ou de toutes les plateformes actuelles. Sa contribution féministe durable est une méthode : partir d’une micro-interaction et remonter jusqu’à l’institution qui l’a conçue. Pour élargir l’analyse à l’imbrication de l’informatique avec colonialisme, race, genre, environnement et travail, lire Your Computer Is on Fire ; pour une approche plus pratique de la place du féminisme dans l’architecture logicielle et les interfaces, voir Feminist in a Software Lab.

Sources : notice de l’édition brochée chez W. W. Norton (ISBN, date de l’édition et exemples de la présentation éditoriale) ; page du livre de Sara Wachter-Boettcher (présentation par l’autrice des biais et angles morts des produits numériques).