テクノロジー以後の人種

Ruha Benjamin の Race After Technology: Abolitionist Tools for the New Jim Code は、客観的・効率的・進歩的とうたわれるシステムが、なぜ人種階層を再生産するのかを問う。「新ジム・コード（New Jim Code）」とは、差別を設計に埋め込みながら、以前の制度より中立に見せる技術の仕組みを指す概念だ。現代のソフトウェアがジム・クロウ法と法的に同一だという意味ではなく、人種支配の形がどう組み替えられるかを示す比喩である。フェミニストの読者にとって重要なのは、技術の選択も社会的な選択だという視点だ。誰が見える存在になり、誰がリスクや労働を負い、誰が決定権を持つのかがそこに配分される。

本書は四つの仕組みを通じて議論を組み立てる。「設計された不平等」は階層が装置や設計に組み込まれる過程、「デフォルトによる差別」は不平等な社会を中立とみなす設計の帰結、「コード化された可視化と監視」は誰がどの条件で見られ、監視されるか、「技術的善意」は偏見を直すとうたう製品が権力配分を温存していないかを問う。焦点は個々のアルゴリズムに測定可能な誤りがあるかどうかだけではない。システムはどんな歴史を引き継ぐのか。設計者は何を問題と定義するのか。影響を受ける人々は判断に異議を申し立てられるのか。

テキサス大学オースティン校の E3W Review of Books に掲載された Hannah Robbins Hopkins の書評は、第1部で扱われるロボットの用途として、警察、軍事、性産業、家事労働を挙げている。この幅はフェミニストの視点から重要だ。「助けてくれる」家庭用機械と、刑罰国家の強制装置は別の製品に見えても、誰が奉仕し、誰がサービスを受け、誰の安全が優先されるかという前提を共有しうる。すべてのロボットが同じ害を生むということではない。技術的な物が、ある社会関係を自然で不可避なもの、あるいは公的説明責任の及ばないものに見せうるという指摘である。

「デフォルトによる差別」の章は、「不具合」の見方を問い直す。自動システムが人々を排除したり誤分類したりするとき、それは偶発的な故障ではなく、誰を標準と想定した設計なのかを露呈させる場合がある。Hopkins は、予測型警察活動や再犯リスクの計算に関する Benjamin の分析を紹介する。予測が正確に見えるほど、すでに高リスクとされた人々への監視を強めることがある。監視が記録を作り、その記録が次の予測を訓練し、予測がさらなる監視の根拠となる循環だ。これを単なる不具合と呼べば、長く続く政治的な仕組みが一時的な技術問題に見えてしまう。

「コード化された可視化と監視」は、単に「もっと多くの人を含めよう」という解決の限界を示す。ある人々はシステムに認識・支援されず不可視化される一方、別の人々は監視対象として過剰に可視化される。見えることは、承認や安全を意味するとは限らない。Hopkins の書評によれば、Benjamin は人種表象、優生学の歴史、現代技術を通じてこの矛盾を検討する。誰が画像やデータに現れるかだけでなく、誰がその現れ方を決め、誰の証言が信じられ、集められた情報を制度がどう使うのかが問われる。

最後の論点は「技術的善意」だ。公平、包摂、中立を掲げる製品も、問題を狭く定義すれば既存の階層をそのまま残し、むしろ効率化することがある。エンジニアの多様化やデータセットの修正だけでは、誰がシステムの目標を決め、誰が自動化から利益を得て、誰が費用を負担するのかは解決しない。Benjamin の廃絶論的な展望は、警察活動、排除、搾取の自動化に依存しない社会関係を想像し、集団的な実践を発明の源として捉える。「モデルの偏りを少し減らす」だけでなく、そもそもその仕組みをその形で存在させるべきかまで問う点に特徴がある。

この枠組みは他の技術を考える助けになるが、あらゆる人種秩序を説明する普遍理論として広げるべきではない。本書の系譜は米国の人種化の歴史に根ざしている。国際的な事例が登場しても、各地域を網羅する比較研究というわけではない。他地域に応用する際は「新ジム・コード」の比喩をそのまま移すのではなく、現地の歴史、分類、制度の違いを確かめたい。検索と表象については Safiya Umoja Noble のAlgorithms of Oppression、福祉給付や資格審査の自動化については Virginia Eubanks のAutomating Inequalityが補助線になる。著者の書籍ページ、IUCAT 書誌記録、書評全文を参照。