研究论文 / Proceedings of the 1st Conference on Fairness, Accountability and Transparency
性别阴影：商业性别分类系统中的交叉性准确性差异
Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification摘要 本研究提出了评估自动面部分析算法和数据集中与表型亚组相关的偏见的方法。使用皮肤科医生认可的菲茨帕特里克皮肤分型系统，研究者发现商业性别分类系统存在严重的性别和肤色偏见，深色皮肤女性的错误率高达34.7%，而浅色皮肤男性仅为0.8%。这一发现揭示了人工智能系统中的交叉性歧视问题，对构建公平、透明和可问责的面部分析算法提出了紧迫要求。
乔伊·布拉姆维尼、蒂姆尼特·格布鲁 / 阅读全文