技术之后的种族

鲁哈·本杰明（Ruha Benjamin）将“新吉姆法则”命名为“新吉姆法则”，以描述再现种族等级制度的技术，同时比它们所取代的机构显得更客观、更高效或更进步。从风险评分和预测系统到面部识别、健康技术和自动化资格，歧视可以被设计成类别、训练数据、目标和部署。问题不在于一台有偏见的机器单独行动：技术系统继承了政策选择，然后使这些选择更难被看到和质疑。

本杰明区分了几种重复出现的模式。有些工具加深了监视和惩罚；其他人则以中立的名义忽视种族差异，或者在保持权力不变的情况下提供肤浅的多元化品牌。即使设计看起来是仁慈的，也可能会限制他们声称要帮助的人。她的黑人女权主义方法询问谁被想象为用户，谁成为管理的问题，谁进行隐藏的劳动，以及哪些社区被迫提供数据，同时被剥夺了设计权。

这本书的废奴主义视野不仅仅是纠正有偏见的数据集或使工程团队多样化。它要求读者首先想象那些不能自动化监管、排除和提取的技术，并将社区实践视为发明场所。由于快速发展的领域中的示例会老化，因此必须重新应用该框架，而不是将其视为固定目录。它持久的要求是，公平性应该根据社会关系和后果来判断，而不是根据模型的技术性能或其制造者的良好意图。