Not My AI：质疑公共部门算法决策的女性主义框架

Joana Varon 与 Paz Peña 的 Not My AI 不是一本泛谈“AI 有偏见”的指南，而是从拉丁美洲公共服务出发，追问国家为何把算法决策带进教育、社会福利与儿童保护。作者关心的不只是模型是否准确，而是它是否真有必要、由谁设计、用谁的数据训练、被放进怎样的公共制度，以及受影响的人能否质疑结果。项目试图发展一套女性主义与反殖民的质询框架，反对把技术创新包装成解决贫困与不平等的捷径。

报告讨论的智利“儿童预警系统”（Sistema Alerta Niñez）用行政资料估算儿童与家庭的风险，以协助地方办公室安排支持。Not My AI 的分析指出，系统把既有公共服务记录转化为风险排序，容易让贫困家庭受到更密集的识别与接触；而“由人作最后决定”本身并不能证明机器分数不会被当成中立事实。案例还显示，政府曾委托算法稽核，却拒绝公开结果。这里的女性主义问题并不是“算法取代社工”这么简单，而是福利被设计成按风险筛选的有限资源后，谁有权定义何种家庭需要干预，谁又能看到分类如何形成。

另一组分析聚焦阿根廷的社会干预平台，以及后来与巴西社会项目相连的 Projeto Horus。平台曾尝试用贫困地区女孩的家庭与生活资料预测辍学和青少年怀孕。作者与相关案例记录质疑它的统计方法、资料偏差和性别设计：把怀孕风险集中计算在女孩身上，可能将结构问题改写成对年轻女性身体的监测；而当项目扩展到巴西时，公开资料也不足以说明试点是否产生了有效结果或企业如何承担责任。这些是报告对历史项目及其证据透明度的批判，不应被误读成对今天所有巴西公共系统的描述。

这组案例让“反殖民”不只是地理标签。它指向一种治理关系：地方贫困人口提供高度敏感的资料，公共机构和技术供应商获得分类与预测能力，而受影响的人未必能参与问题定义或审查。报告的案例盘点是研究团队在 2021 年前后开展的初步、非穷尽性梳理，并非当下的完整数据库；不同试点的状态和证据也不相同。可用它练习几个先于准确率的问题：为什么要自动化？有无不收集更多资料的替代办法？哪些人能申诉、纠错或拒绝？把这些问题与《女性主义数据宣言：拒绝与承诺》和《互联网女性主义原则（2.0版）》并读，可以看到拒绝、治理权与数据控制如何互相补充。来源包括FIRN 研究文本、智利儿童预警系统案例及阿根廷与巴西青少年怀孕预测案例。