FemRes持续生长的评论
技术之后的种族

数据女性主义 · 书页

技术之后的种族

原书名Race After Technology: Abolitionist Tools for the New Jim Code

作者Ruha Benjamin

Ruha Benjamin 以“新吉姆代码”分析种族等级如何被写进技术设计、隐藏在默认设置中,并借监控或善意的技术修正继续运作。

分享这项资源
X ↗Facebook ↗

01

书评与导读

Ruha Benjamin 的《Race After Technology: Abolitionist Tools for the New Jim Code》追问:为什么被包装成客观、高效或进步的系统,仍会再生产种族等级?为什么“创新”的语言反而让这种延续更难被看见?她用“新吉姆代码”(New Jim Code)指称那些把不平等写入设计、却显得比旧制度更中立的技术机制。这是关于种族控制如何重新组织的比喻,不是说当代软件与吉姆·克劳法在法律上完全相同。本书的女性主义价值在于指出,技术决定也是社会决定:它分配谁被看见、谁承担风险与劳动,以及谁拥有决策权。

全书通过四个彼此关联的机制展开分析:“工程化的不平等”追问等级如何被写进设备或设计;“默认歧视”关注设计者把不平等社会当作中立现实之后会发生什么;“编码式暴露”考察人们以什么条件进入视野、又如何受到监视;“技术善意”则检验那些声称能纠正偏见的产品,是否其实保留了原有权力分配。这些概念把讨论从“某个算法有没有可测量的错误”推进一步:系统继承了什么历史?设计者把什么定义为问题?受影响的人能否质疑它的决定?

得克萨斯大学奥斯汀分校《E3W Review of Books》的 Hannah Robbins Hopkins 在完整书评中,将第一部分概述为对机器人应用场景的分析:从警务、军事、性商品到家务劳动。这个跨度对女性主义阅读很重要:被想象成“贴心帮手”的家用机器,与刑罚国家使用的强制机器,看起来是不同产品,却都可能预设谁来服务、谁获得服务、谁的安全最优先。重点并不是所有机器人造成同一种伤害,而是技术物件可能把特定社会安排包装成自然、不可避免,或不容公众问责的事实。

关于“默认歧视”的章节重新解释了“故障”。自动系统排除或误判某些人时,这未必只是偶发失灵,也可能暴露设计本来就把哪些人当成常态。Hopkins 讨论 Benjamin 对预测性警务和再犯风险计算的分析:预测看似准确,却可能让已经被标记为高风险的人受到更多审视,由此形成循环——监控产生记录,记录训练下一轮预测,预测又为更密集的监控提供理由。把这种结果叫作小故障,可能会让持久的政治安排听起来像短暂的技术问题。

“编码式暴露”进一步指出,简单要求系统“纳入更多人”并不足够。有些人会因为技术无法识别或服务他们而变得不可见;另一些人则会作为监控目标而过度显眼。因此,可见不必然等于得到承认或保护。Hopkins 指出,Benjamin 从种族再现、优生学历史与当代技术追问这一矛盾。女性主义问题不仅是“谁出现在数据或影像里”,还包括谁控制出现的条件、谁的说法被相信,以及机构如何使用收集到的信息。

“技术善意”把批判转向那些出于好意的修正。产品可以宣传公平、包容或中立服务,却把问题定义得过窄,以致原有等级毫发无损,甚至运作得更有效率。Benjamin 的分析提醒我们:增加工程团队的多样性或修正数据集,本身无法回答是谁设定系统目标、谁从自动化获利、谁承担代价。她提出的废除主义视野要求读者想象不依赖自动化警务、排斥与攫取的社会关系,并把集体实践视为发明来源,而非创新的阻碍。这比“让模型少一点偏见”更彻底:它还追问,这套系统是否应该以这种方式存在。

这套框架可以启发对其他技术的分析,但不宜被扩张成解释所有种族秩序的万能理论。它以美国种族化历史为重要脉络;书中出现国际案例,也不等于它是涵盖各地的比较研究。把框架用于其他地区时,应先辨认当地历史、分类方式与制度差异,而不是直接套用“新吉姆代码”的比喻。可与 Safiya Umoja Noble 的Algorithms of Oppression并读,比较搜索与再现;也可读 Virginia Eubanks 的Automating Inequality,理解福利资格审查如何自动化。

读者回应

读者批注

留下你的阅读感受,或补充一条值得继续追踪的线索。

加入讨论

回应

加载评论中...

支持我们

如果您觉得这些内容有价值,欢迎支持FemRes的持续运营。

支持 FemRes