ジェンダー・シェイズ：商業性別分類システムにおける交差的正確性の格差

Joy BuolamwiniとTimnit Gebruの2018年の論文は、高い全体正解率が特定の集団に集中する誤りを隠していないかと問う。評価対象は顔画像から行う商用の性別分類であり、個人の本人確認でも、顔認識のあらゆる用途でもない。この区別があってこそ、誤りの不平等を捉えながら、一つの実験から監視技術全体の性能を断定せずに済む。

差異が見える評価用データを作る

研究者はIJB-AとAdienceの構成を調べ、アフリカとヨーロッパの6か国の議員1,270人を含むPilot Parliaments Benchmark（PPB）を作成した。議員の肖像は人物を確認でき、撮影条件も比較的統制されている。集団間の分布を改善する選択だが、世界のすべての人口、撮影環境、社会状況を代表する標本になったわけではない。

原論文の3.4–3.5節と表3では、Fitzpatrickの皮膚型I–IIIを明るい肌、IV–VIを暗い肌にまとめ、女性・男性と認識されるラベルと交差させる。このラベルは商用システムの二値出力に対応しており、著者ら自身、ジェンダーの複雑さやトランスジェンダーのアイデンティティを十分に捉えないと述べる。皮膚科医による肌のラベル付けへの協力も、顔から性別という生物学的事実が読み取れることを意味しない。

平均値の安心は均等に配られない

Microsoft、IBM、Face++の分類器を評価したところ、暗い肌の女性群はいずれのシステムでも最も誤りが多く、誤分類率は20.8–34.7％だった。明るい肌の男性群の最大誤分類率は0.8％である。これは当該研究のシステム、バージョン、画像、集団定義に対応した結果であり、現在のAI一般の誤分類率ではない。女性全体、暗い肌の人全体を別々に示すだけでも、交差する集団の差異は見落とされうる。

フェミニズムへの貢献は数値だけでなく方法にもある。平均の中から誰が消えるのか、誰の顔が通常の性能の基準になるのか、どの失敗が些細な例外として許されるのか。集団別評価は「誰にでも信頼できる」という主張を検証可能にする。データを増やすだけでは足りず、その分布、ラベル、評価方法を調べる必要も示す。

正確さと分類する正当性は別の問い

基準にも限界がある。公的肖像は街頭などの画像より条件が整っており、写真から肌の型を推定することには不確かさが残る。6種類を2群にまとめれば比較しやすくなる一方、群の内部の差は圧縮される。これらは観察された格差を消す理由ではなく、実験上の分類を身体や社会的アイデンティティの完全な説明にしないための留保である。

さらに、分類が正確になっても、本人が拒否できず用途にも異議を唱えられないなら、その導入は正当なのか。論文の証拠だけでは、各機関に代わってこの政治的問題を決められない。2018年の刊行自体が、後年の企業による警察向け販売制限の時期や原因を証明するわけでもない。研究結果、社会運動、企業判断には別々の根拠が必要だ。

Buolamwiniの講演を入口にし、『データ・フェミニズム』で権力、文脈、労働へ視野を広げるとよい。『デザイン・ジャスティス』は、誰が仕組み自体を変えられるのかと問う。誤りを誰が負うのかと、そもそも誰が人を分類する権限を持つのかを、一緒に考えられる読書経路である。