AI のためのデータ・フェミニズム

Lauren Klein と Catherine D’Ignazio は、『Data Feminism』の七つの原則を、完成したモデルに点数をつけるためのチェックリストにはしていない。2024 年の FAccT で発表されたこの理論論文が示すのは、AI を考えるうえでデータ・フェミニズムがなぜなお必要なのかである。問題はモデルに偏りがあるかだけではない。誰が研究課題を決め、誰のデータが収集・解釈され、誰がインフラを所有し、利益とコストがどう配分されるのかも問わなければならない。著者たちにとって交差性は、モデルに属性ラベルを足すことではなく、構造的な権力を分析する方法だ。論文は従来の七原則を AI の文脈で捉え直し、環境負荷と同意を、さらに発展させる可能性のある二つの論点として提示する。確定済みの追加原則ではない。公式会議論文 PDFには、書誌情報と 2024 年 6 月 3〜6 日の開催日が記載されている（印刷頁 100〜112）。

「権力を検討する」という原則は、米国の入居審査サービスの例で具体化される。こうしたシステムは、立ち退き記録、逮捕記録、信用スコアを組み合わせ、家賃を支払えるかを予測する。しかし記録の質は均一ではなく、人種化された住宅制度の中で作られているため、自動スコアリングは既存の排除を中立的な予測として言い換えてしまう可能性がある。著者たちは情報への非対称性にも注目する。家主はデータを使って入居者を詳しく知る一方、入居者には不当な立ち退きや物件の放置を調べる手段が乏しい。したがってフェミニストな AI 設計が目指すべきものは、家主がより効率的に人を選別する仕組みではなく、入居者が集合的に情報を得て行動する力を築く道具ではないか、と論じられる（印刷頁 102〜103）。精度を高めても、システムが誰のために機能し、どの制度を強化するかは変わらないことがある。

「状況に根ざした知」と身体性をめぐる議論は、誰の警告が知識として認められるのかを問う。著者たちは、Joy Buolamwini が自分自身の顔を用いて顔認識を監査した事例と、Black 女性研究者が中心となって LAION のマルチモーダル・データセットにあるミソジニー、人種差別、性的暴力を記録した研究を取り上げる。生きた経験は客観性を損なう雑音ではなく、支配的な評価方法が見落とす害を発見するための認識上の位置になりうる。ここで問題となるのは、証拠を解釈する権威の偏りでもある。Black 女性主導の研究が示した懸念は、スタンフォード大学の白人研究者が再現して初めて、データセット運営側により強く受け止められたと論文は指摘する（印刷頁 104〜105）。「代表性」は、サンプルに多様な人が含まれるかだけでなく、誰が証拠を解釈し、誰の判断が組織に認められるかにも関わっている。

さらに、南北アメリカのフェミニスト・データ活動家と共同設計された、ニュース分類ツールの例が示される。当初の目的は、機械学習で女性殺害（feminicide）に関する記事を検出し、活動家の整理作業を軽くすることだった。しかし活動家たちは、全面的な自動化に異議を唱えた。女性殺害の定義は文脈を離れて一般化できず、亡くなった人々を記録し見分ける仕事は、処理速度の向上だけではなく、記憶の正義を実践することでもあるからだ。共同設計は公開前の意見聴取にとどまらず、ツールの目的と自動化の境界を変えた。論文によれば、最終的なツールは人権監視団体にも採用された（印刷頁 105〜106）。重要なのは、単に「AI で分類できるか」ではない。政治的な記憶を拡張可能なワークフローに変えるとき、誰が拒否でき、その拒否が実際に設計を変えるのかという問いである。

「労働を可視化する」原則は、画面上の知能から、それを支える人々へ視線を移す。データのアノテーションやコンテンツ・モデレーションは、しばしば技術職の序列の最下層に置かれ、その地位や報酬の差を著者たちはジェンダー化、人種化、植民地主義的な労働分業と結びつける。ChatGPT 公開後、ケニアの労働者が有害な可能性のある出力をリアルタイムで選別していたとする調査報道も紹介される（印刷頁 107〜108）。これは著者たち自身が実施した労働調査ではなく、原則を説明するために引かれた既存の事例だ。この人々を AI の物語に戻すと、「自動化」の意味も変わって見える。消えているのは人間の仕事そのものではなく、その労働条件、報酬、そして発言する力である。

論文のディスカッションは、環境負荷と同意を今後さらに考えるべき論点として扱う。著者たちは AI が消費する水や電力を、資本主義と植民地主義的な資源採取の歴史に結びつけ、環境コストが地理やジェンダーによって不均等に負わされると論じる。また同意を、個人による二者択一の一度限りの許可として理解するだけでは、学習データの出所、同意なく生成される親密な画像、相互依存する共同体の関係を十分に捉えられない可能性を指摘する。そのため、集合的、相互依存的、クィアな同意を検討する余地を提案する（印刷頁 108〜109）。この二つは議論の対象であり、完成した運用基準ではない。「公平なモデル」の評価が見落としがちなインフラのコストと関係への責任を浮き彫りにする点に意味がある。

論文の限界も押さえておきたい。これは先行研究、事例、原則をつなぐ理論的な論考であり、特定の原則を適用すれば AI が公平になると実証した評価研究ではない。取り上げられる事例は固有の政治的・地理的な文脈を持つため、あらゆるコミュニティに同じ経験があると一般化してはならない。読書案内としては、まず 『Data Feminism』 と併読し、七原則の基礎を確認したい。続いて 「Feminist Data Visualization」 を読むと、同じ著者たちがフェミニスト認識論をデータ表現へどう適用したかが見える。原文は FAccT 会議論文 PDF、書誌情報と DOI は ACM Digital Library を参照。