研究 / Proceedings of the 1st Conference on Fairness, Accountability and Transparency
ジェンダー・シェイズ：商業性別分類システムにおける交差的正確性の格差
Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification要旨 本研究は、表現型サブグループに関する自動顔分析アルゴリズムとデータセットの偏見を評価するアプローチを提示する。皮膚科医が承認したフィッツパトリック皮膚型分類システムを使用した研究者らは、商業性別分類システムに深刻なジェンダーと肌の色の偏見があることを発見した。深色肌の女性は34.7%もの誤認識率を示す一方、浅色肌の男性はわずか0.8%だった。この発見はAIシステムにおける交差性差別を明らかにし、公平で透明性があり説明責任のある顔分析アルゴリズムの構築に向けて緊急の注意を要するものである。
ジョイ・ブオラムウィーニ、ティムニット・ゲブル / 論文を読む