アルゴリズムバイアス

ニューヨーク大学教授でデータサイエンティスト、そして数少ない黒人女性AI研究者の一人であるメレディス・ブルサードによる強力な著作。テクノロジーの中立性は神話であり、アルゴリズムには説明責任が必要であることを明らかにしている。肌の色の薄い人種だけで訓練された顔認識から、差別的な貸付を助長する住宅ローン・アルゴリズム、医療診断における危険なフィードバックループまで、偏向の実態を解明。解決策は偏在する技術を包括的にすることではなく、特定の層を「他者」として標的にするアルゴリズムそのものを根絶することにあると説く。

Safiya Umoja Noble は商業検索における黒人少女の汚名化を入口に、広告市場、プラットフォーム独占、知識分類がアルゴリズム的抑圧を作る過程を明らかにする。

教師評価、信用、保険、予測型の警察活動の事例から、不透明な数理モデルが不平等を拡大し、責任追及を困難にする仕組みを批判する。