人工知能とジェンダー平等

アーティストのBeyza DoğuçがAIに医師と看護師の物語を書かせると、登場人物には繰り返し性別の固定観念に沿う役割が与えられた。この例がUN Womenの解説への入口となる。モデルは、見慣れた社会の序列を再生産しながら、世界についての普通の記述として提示することがある。

出力を生む条件を問う

記事はジェンダー・バイアスを、学習データ、技術分野への不平等な参加、ガバナンス上の判断につなげる。研究者Sola Mahfouzの公平性への問いや、コーディング事業に参加した学生Natacha Sangwaの観察も紹介する。ただし、個人的な経験は全モデルを対象にした実験ではなく、医療ツールへの懸念も、それだけで臨床的な知見になるわけではない。

この区別はフェミニズムの読解にも必要である。生成された人物の性別だけでなく、誰が専門家として認められ、誰の経験がデータになり、雇用や融資、サービスの利用に影響する判断を誰が争えるのかを問いたい。一つの出力を均衡させるだけでは、これらすべてには答えられない。

システムを変える権限

女性の参加が増えれば、開発で問われる問題も広がりうる。しかし人数上の代表性は、導入、資源、救済を決める権限の代わりにはならない。職場に参加していても、有害な製品を止められるとは限らない。データを増やしても、それを使う組織の差別が自動的に解消するわけではない。

ガバナンスへの視点から、出力を検証すること、意思決定の仕方を変えること、影響を受けた人に救済の手段を設けることを区別できる。一つの前進を、すべてが達成された証拠と考えないことが大切である。

この記事はAI政治の入口として読める。モデルの現在の性能比較ではなく、グローバル・デジタル・コンパクトについても2024年の交渉を背景としている。具体的な用途を一つ選び、許容される誤りを誰が定義し、誰が負担し、拒否や異議申立てが可能かを考えると、議論を深められる。