Biais de genre dans l'IA : Le signal d'alarme de 2024

À l’approche de la Journée internationale des droits des femmes 2024, la communauté mondiale a reçu un rappel alarmant des défis technologiques auxquels fait face l’égalité des genres. Une étude exhaustive de l’UNESCO a révélé des tendances profondément préoccupantes au sein des grands modèles de langage (LLM), qui produisent non seulement des biais de genre, mais aussi de l’homophobie et des stéréotypes raciaux. Ces résultats soulignent un échec systémique dans la trajectoire actuelle du développement de l’intelligence artificielle, où les femmes sont décrites comme travaillant dans des rôles domestiques quatre fois plus souvent que les hommes. Les prénoms féminins sont fréquemment associés à des concepts domestiques comme « foyer », « famille » et « enfants », tandis que les prénoms masculins restent liés à « affaires », « cadre », « salaire » et « carrière ».

Ces preuves alarmantes sont corroborées par une analyse approfondie menée par le Berkeley Haas Center for Equity, Gender and Leadership. Après avoir examiné 133 systèmes d’IA dans divers secteurs, le centre a constaté que 44% d’entre eux affichaient un biais de genre manifeste, et 25% présentaient une combinaison intersectionnelle de biais de genre et de biais racial. Ces biais se manifestent également dans les représentations visuelles ; par exemple, la simple requête « avocat » génère de manière disproportionnée des images d’hommes caucasiens âgés, tandis que la requête « infirmière » produit presque exclusivement des images apparemment féminines. Cette « normalisation numérique » des stéréotypes risque d’ancrer des rôles sociaux obsolètes dans l’infrastructure même de notre avenir.

Au-delà de la logique interne des machines, une enquête de 2024 menée par la Federal Reserve Bank de New York a révélé une tendance comportementale préoccupante : les femmes évitent de plus en plus la technologie de l’IA générative. Alors que 50% des hommes ont déclaré avoir utilisé l’IA générative au cours des douze derniers mois, seules 33% des femmes ont fait de même. Dans la plupart des grandes études, la proportion de femmes adoptant les outils d’IA est systématiquement inférieure de 10 à 40 pour cent à celle des hommes. Beaucoup de femmes soulèvent des questions éthiques cruciales : est-il responsable d’utiliser ces outils compte tenu de leurs défauts actuels ? Cependant, cet évitement crée une arme à double tranchant, car se détourner de l’IA pourrait creuser les écarts de salaire, réduire les opportunités d’emploi et constituer un désavantage significatif dans une économie mondiale axée sur la technologie.

Le mécanisme par lequel l’IA renforce ces stéréotypes est enraciné dans le « biais des données d’entraînement » qui reflète les préjugés sociétaux existants. Comme l’explique la chercheuse en IA Beyza Doğuç, l’intelligence artificielle agit comme un miroir des biais présents dans notre société, qui se manifestent ensuite dans les données utilisées pour entraîner ces systèmes. De plus, puisque les IA dotées de caractéristiques féminines sont principalement développées par des hommes, elles reflètent souvent des idées et des fantasmes masculins sur les femmes. Cette crise de représentation est confirmée par des étudiantes comme Natacha Sangwa, qui a observé lors de camps de codage internationaux que l’IA est principalement développée par des hommes et entraînée sur des ensembles de données représentant essentiellement des perspectives et des expériences masculines.

Pour contrer cette trajectoire, le mouvement pour les « Pratiques féministes des données » préconise un changement radical dans notre façon de gérer l’information. Cela implique de dépasser le binaire de genre, de valoriser de multiples formes de savoir et de prioriser les sagesses locales et autochtones pour remettre en question les structures de pouvoir inégales. Des signes de mouvement au niveau des entreprises sont également visibles ; en février 2024, huit géants technologiques mondiaux, dont Microsoft, ont approuvé la Recommandation de l’UNESCO sur l’éthique de l’IA. Cet engagement appelle à garantir l’égalité des genres dans la conception des outils, à réserver des fonds pour des programmes de parité et à fournir des incitations financières pour l’entrepreneuriat féminin dans le secteur technologique.

Le changement systémique nécessite également des interventions politiques robustes, en commençant par une augmentation significative de la participation des femmes au développement de l’IA. Cela doit être réalisé par des quotas, des incitations et la création d’environnements de travail véritablement inclusifs. Simultanément, les systèmes existants doivent faire l’objet d’audits réguliers pour détecter les biais, avec des mécanismes de signalement transparents et des mesures correctives obligatoires. Nous devons diversifier les ensembles de données pour garantir des données d’entraînement représentatives incluant des voix diverses et évitant de perpétuer les injustices historiques. L’urgence ne saurait être surestimée ; alors que la technologie de l’IA s’intègre rapidement dans tous les aspects de la vie, ne pas remédier à ces biais annulera des décennies de progrès en matière d’égalité des genres.

En fin de compte, l’avenir de l’intelligence artificielle doit être une « IA féministe » — inclusive, équitable et représentative de l’ensemble de l’espèce humaine. Chacun a un rôle à jouer dans cette transformation, de l’éducation sur les biais algorithmiques à la promotion du changement systémique sur nos lieux de travail. En soutenant les organisations travaillant sur l’IA éthique et en participant directement au développement technologique, nous pouvons nous assurer que les voix diverses ne sont pas seulement entendues, mais sont fondamentales au code lui-même. Nous devons veiller à ce que l’IA ne devienne pas un autre « mensonge de l’égalité », mais serve plutôt d’outil puissant pour faire progresser la justice pour tous.