Techniquement faux

Techniquement incorrect examine les petites interfaces par lesquelles le pouvoir technologique devient ordinaire : des formulaires d’inscription qui ne peuvent pas représenter les familles queer, des outils de santé construits sur des hypothèses étroites concernant les corps, des plateformes qui font ressurgir des souvenirs douloureux, des chatbots entraînés à harceler, et des systèmes de risque qui reproduisent la punition raciale. L’idée de Sara Wachter-Boettcher n’est pas que chaque échec soit un bug isolé. Les équipes produits imaginent à répétition un « utilisateur normal » sans friction, codent cette personne dans les valeurs par défaut et les champs de données, puis décrivent l’exclusion de tous les autres comme un cas particulier. Le design devient donc un système silencieux pour décider quelle vie est anticipée et laquelle doit continuellement demander une exception.

Le livre relie les produits nocifs à la culture du travail qui les produit. Des équipes homogènes, des mythes du fondateur héroïque, des indicateurs de croissance et l’habitude d’aller vite facilitent le fait de considérer la réflexion éthique comme un obstacle plutôt que comme une partie de la compétence technique. D’une perspective féministe, cela déplace la question au-delà de l’ajout de plus de femmes dans une industrie inchangée. La représentation compte, mais la responsabilité exige également de modifier les pratiques de recherche, le pouvoir décisionnel, les tests, la stratégie de contenu et les incitations commerciales qui récompensent l’extraction. Une interface humaine n’est pas simplement un texte poli ; c’est la preuve que les concepteurs ont pris en compte le deuil, le handicap, la racialisation, la variance de genre et la possibilité que les utilisateurs puissent être vulnérables au système lui-même.

Publié avant que l’IA générative ne devienne un produit de masse, certains exemples semblent maintenant appartenir à une couche antérieure de la vie numérique. Cette distance rend la méthode plus, et non moins, utile : les systèmes d’IA contemporains héritent toujours des catégories, des ensembles de données, des incitations organisationnelles et des utilisateurs imaginés. Le livre est le plus solide en tant que pont accessible entre la frustration quotidienne et la critique structurelle, bien qu’il soit moins complet sur le travail sur les plateformes, la surveillance et les chaînes d’approvisionnement mondiales. Pour les lecteurs de FemRes, il offre une habitude pratique d’attention : demander qui a défini la valeur par défaut, qui bénéficie de la rapidité, qui absorbe l’erreur et si les personnes lésées ont une réelle autorité pour changer le produit.