データフェミニズム

ニューヨーク大学教授でデータサイエンティスト、そして数少ない黒人女性AI研究者の一人であるメレディス・ブルサードによる強力な著作。テクノロジーの中立性は神話であり、アルゴリズムには説明責任が必要であることを明らかにしている。肌の色の薄い人種だけで訓練された顔認識から、差別的な貸付を助長する住宅ローン・アルゴリズム、医療診断における危険なフィードバックループまで、偏向の実態を解明。解決策は偏在する技術を包括的にすることではなく、特定の層を「他者」として標的にするアルゴリズムそのものを根絶することにあると説く。

鉱物、エネルギー、不可視の労働、訓練データ、分類、国家監視を通じて AI を地図化し、知能の背後にある抽出と権力集中を示す。『AIの地図帳』はアルゴリズムや「機械は思考できるか」から議論を始めない。Kate Crawford は鉱山、物流、データセンター、倉庫、クラウドワーク、訓練データ、警察、軍事システムへ視野を広げる。

権力分析、交差性、状況的知識、共同設計をデータ作業そのものに組み込む七つの実践原則を示す。『データ・フェミニズム』は、完成したアルゴリズムに「ジェンダーの視点」を付け足すための技術マニュアルではない。誰が知識をつくる権力を持つのかを検討する、政治的な方法論の書である。

トランスの空港検査と障害正義の経験から、影響を受ける共同体が主導し、専門家の善意より利益、所有、説明責任を重視するデザインを提唱する。『デザイン・ジャスティス』は空港検査から始まる。ノンバイナリーのトランスである Sasha Costanza-Chock がミリ波スキャナーに入ると、職員は「男性」か「女性」を押さなければならない。

Ruha Benjamin は「New Jim Code」を名づけ、自動化システムが革新の言葉で人種化された統制を包み直す過程を分析する。ルハ・ベンジャミンは、人種階層を再現しながら、それに代わる制度よりも客観的、効率的、または進歩的であるように見えるテクノロジーを説明するために「新しいジム・コード」と名付けました。

世界がいかにして男性を「デフォルト（標準）」として設計され、女性のデータが無視され続けてきたかを暴き出した衝撃の調査。医療、テクノロジー、都市計画、経済に至るまで、目に見えないデータ・バイアスが女性の健康、安全、そして人生にいかに深刻な影響を及ぼしているかを解明する。