Troll Patrol : documenter les violences en ligne contre les femmes grâce à la recherche participative

Le projet Troll Patrol, mené par Amnesty International et Element AI, cherchait à transformer les témoignages récurrents de femmes confrontées au harcèlement sur Twitter en données examinables à grande échelle. L’étude a porté sur 778 femmes politiques et journalistes au Royaume-Uni et aux États-Unis en 2017. Plus de 6 500 volontaires, réparties dans 150 pays, ont contribué à annoter plus de 200 000 tweets. À partir de cet échantillon annoté et d’analyses complémentaires, l’équipe a estimé qu’environ 1,1 million de tweets « abusifs ou problématiques » avaient mentionné ces femmes au cours de l’année, soit une moyenne d’un tweet toutes les 30 secondes. Cette fréquence est une extrapolation annuelle par modèle, non l’observation directe d’un message à intervalles réguliers ; le chiffre de 7,1 % concerne également les catégories définies pour l’échantillon et ne mesure pas la prévalence des violences parmi toutes les utilisatrices de Twitter.

L’un des principaux constats est que les violences ne se répartissaient pas uniformément selon les identités. Amnesty rapporte que les femmes noires avaient 84 % plus de chances que les femmes blanches d’être mentionnées dans des tweets abusifs ou problématiques ; pour l’ensemble des femmes racisées, l’écart était de 34 %. Cela ne signifie ni que toutes les attaques contre les femmes prenaient la même forme racialisée, ni que les affiliations politiques étaient sans importance. Le résultat montre plutôt comment la misogynie peut s’articuler au racisme et comment les personnes confrontées aux formes cumulées de violence disparaissent derrière une moyenne générale lorsque les plateformes ne publient pas de données suffisamment désagrégées. Les femmes étudiées représentaient différentes sensibilités politiques et publications ; les attaques observées ne relevaient pas d’un seul camp.

La méthode mérite autant d’attention que les résultats. Troll Patrol n’a pas demandé à une machine de classer seule les publications : des milliers de volontaires ont lu les tweets et évalué leur contexte, puis la science des données et l’apprentissage automatique ont servi à étendre l’estimation. Cette coopération a associé l’analyse à grande échelle au jugement humain et fourni aux chercheuses des éléments pour contester l’opacité des plateformes. Mais une catégorie n’est pas un fait automatique neutre. Amnesty distinguait les contenus « abusifs », qui enfreignaient les règles de Twitter, des contenus « problématiques », hostiles ou nocifs par leur répétition et leur accumulation sans nécessairement atteindre le même seuil. « Problématique » ne signifie donc pas que chaque publication doit être supprimée. Une politique qui ne compte que les messages individuellement supprimables risque de sous-estimer les effets cumulatifs de l’humiliation, des menaces et des campagnes coordonnées.

Il faut aussi garder à l’esprit les limites de ces chiffres. L’étude concernait des personnalités publiques sur Twitter, dans deux pays, en 2017 ; elle ne représente directement ni les utilisatrices ordinaires, ni d’autres pays ou plateformes, ni l’environnement numérique actuel. Elle dépendait des données alors disponibles et d’une extrapolation à partir d’un échantillon annoté. Il ne s’agit pas d’une enquête contemporaine sur la prévalence des violences dans tous les réseaux sociaux, mais d’un cas historique de production de preuves. Sa valeur durable est de remettre en cause un système dans lequel les plateformes sont seules à pouvoir définir, retenir ou divulguer sélectivement les données relatives aux violences commises sur leurs services. Les expériences des personnes visées peuvent guider la question de recherche, mais les méthodes doivent être vérifiables, les catégories expliquées et les conclusions limitées au périmètre étudié.

Dans une perspective féministe, la gouvernance des plateformes ne devrait pas transférer la responsabilité de la réparation aux personnes ciblées en leur demandant de se taire, de partir ou de se protéger seules. Une réponse plus équitable suppose des rapports de transparence vérifiables, des systèmes de classification et de recours soumis à un examen externe, une détection des attaques répétées et une véritable participation des communautés concernées à l’élaboration des règles. L’apport durable de Troll Patrol n’est pas de confier aux machines le pouvoir de supprimer des discours, mais de transformer l’opacité des plateformes en enjeu de responsabilité publique. Le projet peut être lu avec les entrées FemRes sur les Principes féministes de l’Internet et le Manifeste féministe des données : qui peut parler, qui définit le préjudice et qui contrôle les données relèvent d’une même question de pouvoir.