性別陰影：商業性別分類系統中的交叉性準確性差異

Joy Buolamwini 與 Timnit Gebru 的2018年論文追問：看起來很高的整體準確率，會不會掩蓋集中落在特定群體身上的錯誤？研究評測的是商業系統根據臉部影像進行的性別分類，並非確認一個人的身分，也不是測量所有人臉辨識應用。區分任務，才能既看見不平等的誤差，又不把一次基準測試擴寫成對所有監控技術的判斷。

先讓測試有機會看見差異

研究者檢查 IJB-A 和 Adience 的組成，並建立試點議會基準資料集（PPB）：其中包含六個非洲及歐洲國家的1,270位議員。議員肖像的身分可確認，照片條件也相對受控。這項選擇改善了評測中的群體分布，卻不表示樣本代表全球人口、拍攝條件或社會情境。

原文第3.4—3.5節及表3將 Fitzpatrick I—III型歸為較淺膚色、IV—VI型歸為較深膚色，再與被感知為女性、男性的標籤交叉比較。這些標籤對應商業系統的二元輸出；作者明確指出，它們無法充分容納性別的複雜性及跨性別認同。皮膚科醫師參與膚色標註，也不等於性別成為能從臉上讀出的生物事實。

平均值並不平均分配可靠性

評測涉及微軟、IBM 和 Face++ 的分類器。在受測系統中，較深膚色女性組的錯誤率均最高，範圍為20.8%至34.7%；較淺膚色男性組的最高錯誤率為0.8%。數值對應這項研究中的特定系統、版本、影像及分組，不是今日所有 AI 的錯誤率。只分別報告女性或深膚色人群的整體表現，仍可能藏起分類交織後的差異。

論文的女性主義貢獻因此不只是幾個醒目的數字。它改變了評估問題：誰消失在平均值裡，誰的臉被當成正常表現的標準，哪些失敗被容忍為無關緊要的例外？分組評測讓「普遍可靠」成為可以檢驗的主張。它也說明，擴大資料集本身並不足夠，還要看人們如何被分布、標註和測試。

更準確，不等於更有理由分類

基準本身也有邊界。正式肖像比街頭等環境的照片更受控；根據影像估計膚色存在不確定性。把六類膚色合為兩組，方便比較，也壓縮了組內差異。這些限制沒有取消觀察到的不平等，卻阻止我們把實驗分類當成身體或社會身分的完整解釋。

進一步的問題是：即使分類器變得更準確，當事人若不能拒絕分類，也無法質疑用途，部署它是否合理？論文的證據無法單獨替任何機構回答這個政治問題。2018年論文也不能自行證明後來企業限制警用銷售的日期及原因；研究發現、公共倡議和公司決定需要分別查證。

可與Buolamwini 的公開演講並讀，從個人遭遇進入問題；再讀《資料女性主義》，拓展權力、情境與勞動的分析。《設計正義》進一步追問誰能改變系統本身。兩條問題應同時保留：錯誤落在誰身上，又是誰有權決定必須對人進行這種分類？