自动化不平等

《自动化不平等》研究的不是未来某种失控的人工智能，而是已经在日常行政中决定谁能获得食物、医疗、住房和家庭完整性的系统。Virginia Eubanks 走进印第安纳州福利资格自动化、洛杉矶无家可归者协调入住系统和宾夕法尼亚州阿勒格尼县儿童福利风险模型，以当事人的经历说明：算法并未把政治从决定中移除，它只是把资源短缺、怀疑贫困者和惩罚求助者的政策写进新的技术流程。

印第安纳州的案例展示“效率”如何成为拒绝服务的机器。州政府把福利申请交给私营承包商和远程系统后，表格遗漏、错过电话或文件传递失败都可能被解释为“不配合”；三年内约有一百万份医疗、食物券和现金援助申请被拒。错误不再由熟悉家庭处境的工作人员修正，而被分散在呼叫中心、数据库和申诉程序之间。自动化减少的不是贫困，而是机构必须面对求助者并解释决定的责任。

洛杉矶的评分系统面对的是住房远少于需求的现实。问卷把健康、创伤、暴力与街头经历转换为脆弱性分数，用来排列谁最值得获得稀缺住房。排序可能比随意分配一致，却不能创造一套住房；它还要求人们以极私密的经历换取进入名单的机会。一个高分者仍可能等待多年，低分者则因“不够脆弱”被排除。技术在此把政治问题——为什么没有足够住房——改写成更精细地管理匮乏。

儿童保护案例揭示数据如何把贫困与危险混在一起。风险模型调用家庭使用公共服务的历史，而低收入家庭本就更频繁地与福利、医疗和司法机构接触，因此留下更多可被计算的记录。富裕家庭可以购买私人照护而少进入数据库，贫困母亲、黑人家庭、残障父母和单亲家庭则更容易被看见、报告和调查。预测由此可能形成反馈循环：更多监控产生更多记录，更多记录又被当成需要监控的证据。

Eubanks 用“数字济贫院”连接这些案例与美国长期的贫困治理史。过去的济贫院、资格审查和所谓科学慈善，通过区分“值得”与“不值得”的穷人来限制公共援助；今天的数据匹配、欺诈检测和风险预测继承了同一伦理，只是让排除看起来更客观。它的女性主义意义在于，照护需求从来不是中性的：母亲、照护者、残障者和受暴力影响者更依赖公共系统，也更可能因求助而被审查。所谓反欺诈常把生存策略解释成道德失败。

这本书并不认为技术天然邪恶，也不浪漫化所有街头官僚的人工判断。透明、可申诉并由充足资源支持的系统可以减少某些任意性。问题在于自动化被置于紧缩与惩罚框架中，并在最弱势的人身上先行试验。三个美国案例也不能代表所有国家和后来的模型；系统、法律与数据实践会变化。持久的分析不在某一算法参数，而在追问技术是否扩大资源和自主，还是让拒绝、监控与家庭分离更便宜。

对 FemRes 读者而言，本书提供了一套检验公共技术的具体问题：系统解决的是需求还是只给需求排序？当事人知道哪些数据被使用吗？能否理解并挑战决定？谁可以选择退出，谁必须交出隐私才能生存？错误由谁修复，节省的成本又转嫁给谁？与福利权利运动、废除家庭监管、残障正义和照护经济研究并读，《自动化不平等》最重要的结论是：没有资源正义，所谓更聪明的分配只能把不平等管理得更顺畅。