Biais algorithmique

Un ouvrage puissant de Meredith Broussard, professeure à NYU, data scientist et l'une des rares femmes noires chercheuses en IA. Elle révèle comment la neutralité technologique est un mythe et pourquoi les algorithmes ont besoin de responsabilité. De la reconnaissance faciale entraînée uniquement sur des teints clairs aux algorithmes de prêt immobilier encourageant la discrimination, en passant par les boucles de rétroaction dangereuses dans les diagnostics médicaux. La solution n'est pas de rendre la tech omniprésente plus inclusive, mais d'éradiquer les algorithmes qui ciblent certaines populations comme 'autres'.

Safiya Umoja Noble part de la stigmatisation des filles noires dans la recherche commerciale pour révéler comment publicité, monopole des plateformes et classification du savoir produisent l’oppression algorithmique.

Cathy O’Neil explique comment scores, prédictions et modèles de risque amplifient les inégalités dans travail, éducation, finance et police.