Qui les algorithmes reconnaissent-ils ? Joy Buolamwini sur les biais

La conférence TED de Joy Buolamwini commence par un dysfonctionnement technique en apparence minime, mais difficile à réduire à une anecdote amusante : le miroir interactif Aspire Mirror qu’elle a conçu ne reconnaissait pas son visage, jusqu’à ce qu’elle porte un masque blanc. Elle se souvient aussi d’un projet antérieur d’interaction humain-machine qui ne l’avait pas détectée. Ce ne sont pas seulement des exemples abstraits d’algorithmes qui « se trompent parfois ». Ils rendent visible une frontière : certaines personnes sont traitées comme des entrées ordinaires, tandis que d’autres échappent au champ de reconnaissance du système. Buolamwini nomme ce point de vue le « regard codé ». La technologie n’observe pas depuis un lieu neutre ; les personnes qui la construisent, choisissent ses données d’entraînement et définissent sa réussite contribuent à déterminer qui elle peut voir.

La conférence relie cette expérience à une chaîne plus vaste de décisions algorithmiques. Lorsque l’analyse ou la reconnaissance faciale sert au commerce, à la surveillance ou à la sécurité publique, une erreur n’est pas seulement un problème d’interface. Elle peut affecter la vérification d’identité, les soupçons et les personnes les plus exposées aux erreurs ou à l’observation continue. La question féministe dépasse donc la recherche d’un jeu de données « plus équilibré ». Quelles institutions obtiennent le pouvoir d’observer et de classer autrui ? Les personnes classées savent-elles comment fonctionne le système ? Peuvent-elles contester une erreur ? Les communautés concernées participent-elles à la définition des usages et des limites ?

En tant que chercheuse noire, Buolamwini intègre l’intersection de la race et du genre dans l’évaluation algorithmique au lieu de les traiter comme des catégories de test sans lien. Le récit personnel de la conférence rend cette question accessible au grand public ; ses travaux associés ouvrent la voie à une évaluation plus systématique. Gender Shades se lit particulièrement bien en complément : la conférence montre comment une personne découvre les limites du champ de vision d’une technologie, tandis que la recherche transforme l’analyse des erreurs différenciées en question d’évaluation vérifiable. Les deux formats ont des fonctions distinctes ; une conférence publique ne remplace pas un article de recherche.

La force de cette conférence est de rendre le « biais technologique » concret dans la relation entre humains et machines et d’inviter les personnes sans formation d’ingénieur à interroger la responsabilité de la conception. Ses limites sont tout aussi nettes : une intervention publique d’environ huit minutes, publiée en 2017, ne peut établir les risques de tous les modèles, jeux de données ou usages actuels. Elle ne remplace pas non plus les audits indépendants, les limites imposées aux marchés publics, les exigences de transparence ni les recours. Regardons-la comme un point de départ plutôt qu’un diagnostic final : à partir d’un échec de reconnaissance, demandons qui fixe les objectifs d’un système, qui en supporte les coûts et qui peut exiger son arrêt.

Voir et poursuivre : conférence TED et transcription ; Gender Shades : recherche sur la précision intersectionnelle.