Troll Patrol：クラウドソーシングの証拠が明らかにした女性へのオンライン暴力

アムネスティ・インターナショナルとElement AIによるTroll Patrolは、女性たちが長年語ってきたTwitter上の嫌がらせを、大規模に検討できる証拠へと変えようとした。対象となったのは2017年の英国と米国の女性政治家・ジャーナリスト778人である。150か国から参加した6,500人以上のボランティアが、20万件を超えるツイートの分類に協力した。研究チームはそのラベル付き標本とデータ分析を用い、1年間で約110万件の「攻撃的または問題のある」ツイートが対象者に言及したと推定した。これは平均すると30秒に1件となる。ただし「30秒に1件」はモデルによる年間推計であり、一定間隔で投稿を直接観測したという意味ではない。また7.1%という数値も研究が定めた標本内の分類に関するもので、Twitterを利用する女性全体の被害率ではない。

重要な発見の一つは、攻撃がアイデンティティを超えて均等に分布していなかったことである。報告によれば、黒人女性は白人女性よりも攻撃的または問題のあるツイートで言及される可能性が84%高く、有色人種の女性全体では34%高かった。これは女性への攻撃すべてが同じ形で人種化されていたという意味でも、政治的立場が無関係だったという意味でもない。女性嫌悪が人種差別と交差すること、そしてプラットフォームが十分に細分化されたデータを公開しないと、複合的な被害を受ける人々が全体平均のなかで見えなくなることを示している。対象となった政治家や記者は異なる党派・媒体にまたがり、攻撃は特定の政治陣営だけに限られていなかった。

方法そのものも注目に値する。Troll Patrolは機械だけに投稿を分類させたわけではない。何千人ものボランティアが文脈を読み取って判断し、その後のデータサイエンスと機械学習が規模の推定を支えた。この協働は大規模分析と人間の判断を結びつけ、問題の大きさは分からないというプラットフォーム側の姿勢に対抗する証拠をつくった。一方で、分類は価値中立な自動事実ではない。アムネスティは、プラットフォーム規則に違反する「abusive」と、規則の基準には届かなくても敵意や反復によって害を生む「problematic」を区別した。後者はすべて削除すべき投稿を意味しない。個別に削除できる投稿だけを数える政策では、継続的な侮辱、脅迫、集団的な攻撃の累積的な害が過小評価されかねない。

数字とともに研究の限界も読む必要がある。対象は2017年、二つの国のTwitter上で活動する公人であり、一般利用者、他の国、別のプラットフォーム、現在のネット環境をそのまま代表するものではない。分析は当時入手できたデータと標本からの推計にも依存していた。これはあらゆるSNSの現在の被害率を示す調査ではなく、歴史的な証拠形成の事例である。その持続的な価値は、プラットフォームだけが自らのサービス上の被害を定義し、データを秘匿し、選択的に公表する仕組みを問い直した点にある。被害を受ける人々の経験から研究課題を立てることは重要だが、方法を検証可能にし、分類を説明し、結論を標本の範囲内に留めなければならない。

フェミニズムの視点から見れば、プラットフォーム統治は標的にされた人々へ沈黙、退出、自衛を求めるだけでは不十分である。検証可能な透明性報告、外部から検討できる分類・異議申し立ての仕組み、反復的な攻撃を捉える対応、そして影響を受けるコミュニティのルール形成への参加が必要だ。Troll Patrolの長期的な意義は、機械に投稿を削除する権限を与えることではなく、プラットフォームの不透明さを公共の説明責任に結びつけたことにある。FemResのインターネット・フェミニスト原則やフェミニスト・データ宣言とあわせて読むとよい。誰が発言できるのか、誰が害を定義するのか、誰がデータを支配するのかは、同じ権力の問いである。