面向人工智能的数据女性主义

Lauren Klein 与 Catherine D’Ignazio 并没有把《Data Feminism》的七项原则包装成一套给现成模型打分的检查表。这篇发表于 2024 年 FAccT 会议的理论论文，重新说明为什么数据女性主义仍是理解 AI 的必要方法：问题不只在模型有没有偏差，也在谁能决定研究议程、谁的数据被搜集与解释、谁拥有基础设施，以及系统带来的收益和代价如何分配。作者将交叉性理解为分析结构性权力的方式，而不是在模型里多加几个身份标签。论文的七项原则沿用《Data Feminism》的脉络；环境影响与同意则是作者提出、值得继续发展的两个方向，并非已经定稿的新原则。官方会议论文 PDF（印刷页 100–112；会议日期 2024 年 6 月 3–6 日）。

“考察权力”在文中并非抽象口号。作者以美国的租客筛查服务为例：系统汇集驱逐记录、逮捕记录与信用分数，推测租客支付房租的能力；这些资料本身质量不一，又出自高度种族化的住房制度，因此自动评分可能把既有排斥重新包装为中立预测。论文进一步指出信息权力的不对称：房东可以借助数据了解租客，租客却缺乏工具追查房东的不当驱逐或住房维护问题。这里的女性主义 AI 设计目标于是发生了转向——不是替房东更有效率地筛人，而是设想能增加租客集体知情与行动能力的工具（印刷页 102–103）。这也提醒读者，单独改善准确率未必改变系统服务谁、加固何种制度。

论文对“情境知识”和“身体经验”的讨论，针对的是谁的警告会被当作知识。作者回看 Joy Buolamwini 以自身面孔检验人脸识别的审计，也讨论由黑人女性研究者带头揭示 LAION 多模态数据集中厌女、种族主义与色情暴力内容的工作；论文强调，这些研究者的经验并非损害客观性的干扰，而是帮助识别技术伤害的重要认识位置。问题还在于知识权威如何分配：相关担忧在被斯坦福白人研究者重复验证后，才更受数据集组织重视（印刷页 104–105）。这段分析把“代表性”从样本是否多元，推进到谁有资格解释证据、谁的判断被机构采信。

更有力的例子来自跨美洲女性主义数据行动者参与设计的一项新闻分类工具。研究团队原想用机器学习识别有关女性杀戮（feminicide）的新闻，以减轻行动者的整理工作；但参与者拒绝把流程完全自动化，因为女性杀戮的定义无法脱离具体情境被普遍化，而记录与辨认遇害者也是一种记忆正义，不能简化为提高处理速度的任务。共同设计因此不是上线前征询意见，而是让相关社群改变工具的目的与自动化边界；论文称，这个项目后来被人权监测团体采用（印刷页 105–106）。这个案例最值得追问的不是“AI 能不能分类”，而是当算法把政治记忆转为可扩展的工作流时，谁可以说不，以及拒绝是否真的会改变设计。

“让劳动可见”则把视线从屏幕上的智能转向支撑它的人。数据标注、内容审核常被置于技术职业等级的底端；这种地位与薪酬分层，作者联系到性别化、种族化与殖民劳动结构。论文提到 ChatGPT 发布后有关肯尼亚工作人员实时筛查潜在有害回答的调查报道，借此揭示所谓“人工智能”依赖具体的人类劳动，而劳动成本常被转移给全球南方的低薪工作者（印刷页 107–108）。这不是论文新做的一项劳工调查，而是它用来展开原则的既有案例。把这些劳动者重新放入 AI 的故事，也改变了“自动化”的含义：被隐去的并不是人，而是他们的工作条件、报酬与发言权。

讨论部分把环境影响与同意作为未来需要继续发展的议题。作者将 AI 的水、电等资源消耗放进资本主义与殖民式资源提取的脉络，指出环境代价按地理与性别不均地落在人群身上；与此同时，传统上把同意理解为个人、二元且一次性的许可，未必足以回应训练资料的来源、亲密图像被未经同意地合成，或彼此依赖的社群关系。作者因此提出进一步思考集体、相互依存与酷儿同意的可能性（印刷页 108–109）。这两部分是讨论与研究议程，不是已给出的操作规范；它们的价值在于标出“公平模型”评估通常遗漏的基础设施成本和关系责任。

这篇论文的边界同样重要：它是综合既有研究、例子与七项原则的理论性论述，不是比较多个 AI 模型之后证明某套原则有效的实证评估；具体案例也有其所在的政治与地理脉络，不能被概括成所有社群经历相同。延伸阅读可以这样展开：与 《Data Feminism》 对读，可回看七项原则如何形成；再接读 《Feminist Data Visualization》，可以观察同一作者群如何把女性主义认识论落实到数据呈现。本文原文见 FAccT 会议论文 PDF，书目记录与 DOI 见 ACM Digital Library。