Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle

La Conférence générale de l’UNESCO a adopté la recommandation le 23 novembre 2021. Les paragraphes 87 à 93 portent sur le genre et demandent que cette perspective traverse l’évaluation des effets éthiques. Des problèmes liés à la collecte des données ou à l’achat d’un outil peuvent n’apparaître qu’à son utilisation.

Les biais et le pouvoir de fixer les objectifs

Le texte traite à la fois des stéréotypes dans les systèmes et des possibilités de participer à leur conception. Les données peuvent reprendre une division du travail existante. Le recrutement et les promotions influencent aussi qui choisit les objectifs d’un projet. La recommandation aborde le financement public de la recherche et la représentation dans les équipes, ce qui invite à examiner qui bénéficie des priorités retenues.

Le coût de l’accès, les infrastructures, l’éducation, le temps du care et le harcèlement peuvent influer sur la participation. Un test de biais ne dit pas à qui adresser une plainte ni qui est chargé d’y répondre.

De l’achat du système au recours individuel

Prenons un système fictif de recrutement et lisons les dispositions d’évaluation d’impact avec la partie consacrée au genre. Un modèle qui déduit les aptitudes des promotions passées peut reconduire les effets d’obstacles antérieurs. Supprimer la variable de genre laisse dans les données la trace des personnes qui ont dirigé une équipe ou obtenu les missions les plus visibles. Une évaluation doit pouvoir expliquer d’où viennent ces indicateurs avant de se fier à une règle uniforme de notation.

Reste à savoir qui peut corriger la décision. L’acheteur fixe l’usage, le prestataire peut détenir les traces qui expliquent la note, et la personne candidate doit savoir qu’une évaluation automatisée a eu lieu. Repérer un désavantage répété change peu la situation si personne ne peut réexaminer le recrutement. La présence du genre à plusieurs étapes permet de poser des questions précises : qui peut inspecter les données, revoir une décision individuelle ou suspendre l’usage ? Les réponses dépendent de la gouvernance de chaque système.

Les Principes féministes de l’Internet donnent un point de comparaison issu des mouvements. Les orientations de l’UNESCO peuvent guider les politiques, tandis que les effets d’un outil se jugent à partir de son évaluation, de son contrôle et des suites données aux préjudices.

Texte original