FemRes持续生长的评论

数字女性主义 · 评论

Troll Patrol:众包数据如何揭示女性在 Twitter 上遭遇的网络暴力

摘要

回看国际特赦组织的 Troll Patrol 研究:众包标注如何记录女性政治人物与记者遭受的种族化网络骚扰,又有哪些样本与算法边界必须看清。

FemRes / 2018年12月18日
01

文章解析

国际特赦组织与 Element AI 的 Troll Patrol 项目,试图把女性长期报告的 Twitter 骚扰从零散证词转化为可检视的证据。2017 年,研究对象是英国与美国的 778 位女性政治人物和记者;来自 150 个国家的 6,500 多名志愿者为研究标注了超过 200,000 条推文。研究团队再以抽样标注和数据分析估算全年约有 110 万条“有害或具问题性”的推文提及这些女性,平均每 30 秒一条。这个“每 30 秒”是模型推算后的平均值,不是逐条实时观测到的固定频率;7.1% 也对应该研究界定的样本类别,而非 Twitter 上所有女性用户的遭遇比例。

研究最重要的发现之一,是暴力并非脱离身份差异而平均分布。报告指出,黑人女性被“有害或具问题性”推文提及的可能性比白人女性高 84%,有色人种女性整体则高 34%。这不是说每一条针对女性的攻击都以相同方式针对种族,也不意味着政治立场不重要;它揭示的是,性别化攻击会与种族主义交织,而当平台不公开足够的分组数据时,受影响最深的人更容易在总体平均值里消失。女性政治人物和记者横跨不同党派与媒体立场,研究观察到的攻击并不只发生在某一个政治阵营。

Troll Patrol 的方法同样值得审视。志愿者不是只让机器给推文贴标签:数千人阅读语境、作出判断,随后数据科学和机器学习被用于扩展估算。这个协作方式将大规模分析与人类判断结合,也让研究者能反驳平台“没有证据证明问题有多大”的说法。然而分类不是价值中立的自动事实。Amnesty 区分违反平台规则的“abusive”与不一定达到规则门槛、但可能因敌意或反复累积而造成伤害的“problematic”;后者不等于每条都应删除。若政策只计算可删除的单条内容,持续的羞辱、威胁与围攻便可能被低估。

因此,阅读这些数字时也必须看见它们的边界:研究针对的是 2017 年 Twitter 上两国的公众人物,不能直接代表普通用户、其他国家、其他平台或今天的网络环境;研究也依赖当时能够取得的数据和模型估算。它并非一份适用于所有社交平台的当前发生率调查,而是一个有历史位置的证据案例。它的重要性在于示范:平台掌握的资料不应只由平台定义、封存或选择性披露;受攻击者的经验可以成为研究问题的起点,但方法必须公开、类别必须解释,结论也不能越过样本范围。

从女性主义视角看,平台治理不应把解决责任推回被攻击者身上,要求她们沉默、离开或独自学习防护。更公平的回应包括可核查的透明度报告、允许外部审计的分类与申诉流程、对重复围攻的识别,以及让受影响社群参与规则制定。Troll Patrol 的长远价值不是给机器授予删除权,而是把平台的不透明变成公共问责的问题。它可以与 FemRes 收录的《互联网女性主义原则》及《女性主义数据宣言》对读:谁能发声、谁定义伤害、谁控制数据,始终是同一个权力问题。

02

继续追踪这个议题

01
延伸阅读 / 2019年1月9日

拉丁美洲和加勒比非洲裔女性:平等的欠账

Economic Commission for Latin America and the Caribbean

02
延伸阅读 / 2024年3月8日

人工智能中的性别偏见:2024年的警告

联合国妇女署 & UNESCO

03
延伸阅读 / 2019年8月8日

绿色浪潮:走向阿根廷合法堕胎

Amnesty International

读者回应

读者来信

回应这篇文章,或补充一条值得纳入讨论的资料。

加入讨论

回应

加载评论中...

支持我们

如果您觉得这些内容有价值,欢迎支持FemRes的持续运营。

支持 FemRes