技術之後的種族

本傑明（Ruha Benjamin）將“新吉姆法則”命名為“新吉姆法則”，以描述再現種族等級制度的技術，同時比它們所取代的機構顯得更客觀、更有效率或更進步。從風險評分和預測系統到臉部辨識、健康技術和自動化資格，歧視可以設計成類別、訓練資料、目標和部署。問題不在於一台有偏見的機器單獨行動：技術系統繼承了政策選擇，然後使這些選擇更難被看見和質疑。

本傑明區分了幾種重複出現的模式。有些工具加深了監視和懲罰；其他人則以中立的名義忽視種族差異，或在保持權力不變的情況下提供膚淺的多元化品牌。即使設計看起來是仁慈的，也可能限制他們聲稱要幫助的人。她的黑人女性主義方法詢問誰被想像為用戶，誰成為管理的問題，誰進行隱藏的勞動，以及哪些社區被迫提供數據，同時被剝奪了設計權。

這本書的廢奴主義視野不僅僅是糾正有偏見的數據集或使工程團隊多樣化。它要求讀者先想像那些無法自動化監管、排除和提取的技術，並將社區實踐視為發明場所。由於快速發展的領域中的範例會老化，因此必須重新應用該框架，而不是將其視為固定目錄。它持久的要求是，公平性應該根據社會關係和後果來判斷，而不是根據模型的技術性能或其製造者的良好意圖。