数据女性主义

探索关于数据女性主义的优质女性主义内容

012: 12 个内容
06: 关系路径

数据女性主义始于打开表格或训练模型之前。它首先追问：谁有权定义问题、建立分类、收集证据，又是谁决定哪些经验无需记录？数据并非只是描述一个已经存在的世界。预算、制度和继承而来的分类方式，让某些生命高度可见，同时让另一些劳动、伤害与身份缺席、失真，或只有在控制系统中才被看见。

记录缺失可能意味着制度忽视：以男性身体为默认值的医学、抹去无偿照护的经济指标，或无法记录边缘群体所受暴力的公共系统。但答案并不总是收集更多。遭到忽视的社群，也可能被警察、福利机构、边境与平台过度测量。数据正义必须区分“被统计的权利”与“不被捕获的权利”，也要区分公共问责与伪装成包容的数据攫取。

因此，算法偏见不只是等待修补的坏样本。搜索排序、人脸分析、风险评分与自动资格审查都运行在种族化、性别化的制度内部。提高准确率，可能只是更平均地执行一个既有制度的决定，却没有证明那些决定本身正当。交叉性分析追问总体分类掩盖了哪里的集中伤害；情境知识追问谁的经验能挑战官方模型；设计正义则追问受影响者能否设定目标、控制资源并拒绝部署。

这个主题也把数据背后的劳动与物质条件重新显影。标注、审核、维护、社群记录、矿产开采与能源消耗，支撑着被描述为无摩擦或“智能”的界面。女性主义分析把表征连接到政治经济：谁被描绘、谁在劳动、谁拥有基础设施、谁承担错误和环境成本、谁能要求修复。目标不是制造一个完美中立的数据集，而是民主地决定什么值得测量、什么可以建造、什么有权支配生活。

带着四个问题进入资料库

谁定义了分类？

把风险、性别、能力与正常等标签视为有历史的决定，而不是模型发现的自然属性。

缺失意味着什么？

数据空白可能来自忽视，也可能保护人们免受监控；要问谁要求收集，又由谁承担风险。

准确就等于正义吗？

模型可以同样准确地分类所有群体，同时强化一个目的、补救方式或强制权力并不正当的制度。

受影响者能改变决定吗？

只有当社群能够改变分类、预算、所有权、部署方式与拒绝选项时，参与才意味着权力。

选择一条进入路径

从可见的偏见案例进入交叉审计与共同设计，再沿劳动、福利、基础设施与制度权力追踪完整的数据系统。

15 分钟

先质疑证据

从职场AI偏见开始，再看数据可视化如何组织权威、不确定性、身体经验与注意力。

1 小时

从审计走向权力

连接商业搜索、交叉性准确率测试和社群主导设计，理解为何诊断必须通向决策权重分配。

深入研究

追踪整个系统

先建立女性主义方法，再从基础设施到日常后果追踪资源攫取、自动公共服务与种族化分类。

关系路径

相邻议题

数据女性主义12

科技批判10 数据正义8 人工智能伦理6 数字女性主义5 种族与性别4 算法偏见3

内容构成

沿议题阅读

12 · 数据女性主义

书籍

查看全部

书籍 · 2023年3月

不只是故障：直面科技中的种族、性别和能力偏见

More Than a Glitch: Confronting Race, Gender, and Ability Bias in Tech梅雷迪思·布鲁萨德

纽约大学教授、数据科学家、少数黑人女性AI研究者之一的梅雷迪思·布鲁萨德的力作。揭示技术中立是神话，算法需要被问责。从面部识别只能识别浅色皮肤，到抵押贷款算法鼓励歧视性贷款，到医学诊断算法的危险反馈循环。解决方案不是让无处不在的技术更包容，而是根除那些将某些人群视为“他者”的算法。

书籍 · 2021年4月

人工智能地图集

Atlas of AIKate Crawford

Kate Crawford 沿矿物、能源、隐形劳动、训练数据、分类与国家监控绘制 AI 的物质地图，揭示所谓智能背后的抽取和权力集中。《人工智能地图集》拒绝从算法或“机器能否思考”开始讨论 AI。Kate Crawford 把视线拉到更大的地理尺度：矿山、物流、数据中心、仓库、众包平台、训练数据集、警察机构与军事系统。