ユネスコ「人工知能の倫理に関する勧告」

ユネスコ総会は2021年11月23日に「人工知能の倫理に関する勧告」を採択した。第87～93項はジェンダーを扱い、倫理的影響評価を通じてジェンダーの視点を取り入れるよう求める。データ収集や調達の段階に生じた問題が、利用開始後になって現れることもある。

偏りと設計を決める権限

文書はシステムの固定観念と、開発に誰が関われるかの両方を扱う。学習データには既存の分業が入りうる。採用と昇進の仕組みも、開発の目的を誰が決めるかに関わる。研究資金とチームの構成を併せて見ると、誰のために何が設計されるかが見えてくる。

技術を利用する機会には、費用や通信環境、教育、ケアに割く時間、嫌がらせを受けずに参加できる条件も関係する。ある偏りの検査を通っても、誰が苦情を申し立て、どの機関が対応するかは別に定める必要がある。

調達から異議申立てまで判断を追う

採用選考に使う仮のシステムを考え、倫理的影響評価の規定をジェンダーの項目と併せて読む。過去の昇進歴を能力の指標にすると、以前の組織にあった昇進の壁が新たな判断に入り込む。性別欄を削除しても、誰がチームを任され、誰が成果を出しやすい任務に就けたかは記録に残る。共通の採点規則を適用する前に、指標がどのように作られたのかを説明できるかが問われる。

次に、誰が結果を訂正できるのかを考えたい。調達側は使い方を決め、提供企業が点数を説明する資料を持つことがある。応募者は自動評価が行われたことを知る必要がある。不利益の偏りを発見できても、採用の判断を再検討する権限がなければ結果は変わりにくい。勧告がジェンダーを複数の段階に組み込むことから、誰がデータの検査、個別結果の見直し、利用の停止を求められるかが問題として浮かぶ。

インターネットのフェミニスト原則と読むと、政府間の文書と運動側の原則が技術の権限をどう捉えるかを比べられる。個々のシステムの結果は評価と監督、被害への対応から検証したい。

原文