Intelligence artificielle et égalité de genre

L’artiste Beyza Doğuç demande à une IA d’écrire une histoire de médecin et de personnel infirmier ; les personnages reçoivent régulièrement des rôles stéréotypés selon le genre. Cette expérience ouvre une voie vers l’analyse proposée par ONU Femmes. Un modèle peut reproduire une hiérarchie familière tout en présentant son résultat comme une description ordinaire du monde.

Remonter aux conditions de production

L’article relie les biais aux données d’entraînement, aux inégalités de participation et à la gouvernance. Il fait également entendre les interrogations de la chercheuse Sola Mahfouz et les observations de l’étudiante Natacha Sangwa. Ces témoignages ont des statuts différents : une expérience personnelle n’est pas une évaluation contrôlée de tous les modèles, et une inquiétude concernant un outil médical n’est pas en elle-même un résultat clinique.

Une lecture féministe doit maintenir ces distinctions. La question dépasse le genre attribué à un personnage : qui est reconnu comme spécialiste, quelles expériences deviennent des données, et qui peut contester une décision touchant l’emploi, le crédit ou l’accès aux services ? Un exemple de sortie mieux équilibré ne répond pas à toutes ces questions.

Le pouvoir de modifier le système

Une participation accrue des femmes peut élargir les questions posées par les équipes. Elle ne remplace pourtant pas le pouvoir de décider du déploiement, des ressources et des réparations. Une personne peut travailler dans la technologie sans pouvoir arrêter un produit nuisible. Ajouter des données ne corrige pas automatiquement l’usage discriminatoire qu’une institution en fait.

La gouvernance permet d’articuler trois exigences : examiner les résultats, changer les procédures de décision et prévoir des recours pour les personnes concernées. Elles peuvent se renforcer, sans que la satisfaction de l’une prouve que les autres le sont aussi.

Ce texte offre une entrée dans la politique de l’IA plutôt qu’un classement actuel des modèles. Sa discussion du Pacte numérique mondial appartient aux négociations de 2024. Pour prolonger la lecture, on peut choisir une application concrète et demander qui définit une erreur acceptable, qui en supporte le coût, et si le refus ou le recours restent possibles.