抑圧のアルゴリズム

『抑圧のアルゴリズム』は、Google で “Black girls” と検索するという日常的行為から始まる。Safiya Umoja Noble が 2009 年以降記録した結果では、性的な語を入力していないにもかかわらず、長年にわたりポルノサイト、性的広告、侮辱的な連想が上位を占め、“white girls” の結果とは明らかに異なっていた。彼女はこれを後に修正された一つのコード不良とは考えない。商業検索が学校、メディア、市民の主要な知識入口になるとき、黒人女性について何が最も「関連性が高い」かを誰が決めるのかを問う。

Noble の答えはアルゴリズムを政治経済へ戻す。検索順位はウェブ全体から客観的真理を抽出したものではなく、広告入札、検索最適化、クリック行動、企業規則、独占力の組み合わせである。ポルノ産業や大口広告主は、黒人少女の共同体よりはるかに多い資金を使ってアイデンティティ語の可視性を占められる。Google は企業秘密と自動化の中立性を掲げ、具体的順位を責任主体のない技術過程として語る。「利用者が求めるもの」という説明は、欲望を製造し、購入し、増幅できる者を隠す。

検索結果は不快な表象以上のもので、知識の基盤である。上位ページは信頼性、普遍性、存在価値を帯び、教師と学生も初期調査を検索へ依存する。プラットフォームは目録、編集者、広告市場を同時に務めながら、公共知識機関に求められる説明責任を負わない。「アルゴリズム的抑圧」とは、機械が社会に存在しなかった偏見を突然学んだという意味ではない。既存の人種・ジェンダー階層が、新たな分類装置を通じて速度、規模、技術的信頼性を獲得することである。

黒人フェミニズムの視点により、“Black girls” の過剰な性的表象は、人種差別と性差別という二つの独立した誤りに分けられない。Jezebel や「怒れる黒人女性」といった歴史的類型が、スニペット、自動補完、画像、広告で再構成される。黒人女性は性的対象として過剰に可視化される一方、学生、専門家、全人格的な人として不可視化される。「女性全体」「少数者全体」のデータだけで検査すれば、この交差的危害は平均値に消える可能性がある。

本書は Google のソースコードを開くのではなく、検索出力を文化的テキストとして読み、キーワード、広告、メディア順位を長期観察し、黒人研究、フェミニスト・メディア史、情報科学、図書館分類史へ接続する。図書館も人種主義、植民地主義、性差別を含む件名で知識を組織してきたため、分類政治はデジタル時代に始まったのではない。違いは、私企業が前例のない発見経路を支配し、規則が見えず、結果が変動し、公衆に安定した監査・異議申立て手段がないことにある。

したがって解決策は「多様なエンジニアを増やす」ことやデータ洗浄に尽きない。代表性は重要だが、利益構造、独占、弱い法的責任が続けば、少数の個人は構造的誘因を覆しにくい。Noble は検索と AI を公共政策、反差別責任、透明性、独立研究、公共利益情報システムの問題として扱うよう求める。黒人研究、民族研究、女性・ジェンダー研究、人文学、図書館学は設計と統治に必要である。人々について学ばずに人々の社会を設計すること自体が危険なのだ。

本書の限界も明確である。中心事例は特定年代の英語圏ウェブと米国の人種史から来ており、検索結果は後に変化した。今日一度検索して旧ページを再現できないことは、当時の分析を無効にせず、現行システムの安全も証明しない。Noble が調べるのは可視的出力と商業構造であり、再現可能なコード監査ではない。非英語検索、グローバル・サウスのプラットフォーム、利用者の対抗実践は相対的に少ない。望ましくない出力をすべて「アルゴリズム偏見」と呼ぶことも、制度権力への精密な批判を弱める。

読む際は三層を分けたい。画面に何が表象され、どの商業制度がそれを報い、その順位が教育、公共知、機会へどう作用するかである。その枠組みを推薦システム、生成 AI、大規模言語モデルへ持ち込むことはできるが、新技術を 2018 年の Google の大型版と決めつけず、データ、事業モデル、統治を新たに調べる必要がある。本書の持続的貢献は古い失敗一覧ではない。あらゆる「賢い答え」に対して、誰が関連性を決め、誰が誤りを負い、誰が変更を要求できるのかを問う訓練である。