Coded Bias

白い仮面を着けると、それまで顔を捉えなかったコンピューターが反応する。『Coded Bias』はこの経験から、技術が誰を認識し、信頼し、機会を与えるのかを決めるとき、その規則を誰が検査できるのかと問う。Shalini KantayyaのドキュメンタリーはJoy Buolamwiniの調査を追い、他の研究者や活動家の仕事と結びつける。故障したカメラだけが問題なのではない。影響される人が規則を調べる権利を得る前に、技術が制度の門番になることが問題になる。

見落とされた顔から専門知を問い直す

Buolamwiniの経験は、システムが最適化されていない身体と技術評価をつなぐ。Timnit Gebruとの研究『Gender Shades』は、集団別評価によって性能の格差を検証可能にした。ただし、実験は商用の性別分類を対象にし、あらゆる本人確認システムの精度を示すものではない。対象を区別することで、証拠は政治的意義を失わず、より正確になる。

映画は技術専門家の典型的な姿も変える。女性や有色人種は、発明の後で傷ついた感情を語る利用者にとどまらない。調査し、証拠を解釈し、公的な要求を組み立てる。失敗を経験した人が例外扱いされる一方、システムに適合する人が標準的な性能を定義する権限を持ち続ける。この関係を反転させる点に、フェミニズムの論点がある。

監督はインタビューで、挑戦を先導していた人々に出会ったことが、この焦点を生んだと説明する。誰を専門家として映すかは、どの疑問や損害を調べるかを変える。ただし、登場する専門家が多様になっても、企業の製品開発や行政の調達の決定権が公衆に移るとは限らない。

SFの想像力を使うドキュメンタリー

この映画が映そうとする対象は、直接撮影しにくい。モデルやインフラの結果は生活に現れても、その過程は当事者に開かれていない。監督は、グラフィック、機械の視点の模擬、AIの声を使って不透明さを映画の形へ移したと述べる。MicrosoftのチャットボットTayの扱いは、実際の発言記録と構成された声の間を動く。それはAIの意識をのぞく窓ではなく、映画表現である。

抽象的な仕組みに向き合えるようにする手法だが、緊張も残る。印象的な声は注意を引きつける一方、異なる用途を一つの自律的知性の働きに見せかねない。採用、警察活動、福祉行政では、制度、データ、不服申立ての経路が異なる。わかりやすさの価値を認めながら、どこで違いを補う必要があるかを考えたい。

Filmmakerとの対話では、誰のSF的未来像が技術開発の常識になるのかも問われる。女性の専門知を中心に置くことは、発明を批判する人だけでなく、代案を想像できる人を変える。既に決められた未来へ参加するだけが目標ではない。

認識の改善は望まない露出にもなる

検出性能の向上が必ず利益になるわけではない。暗い肌の顔をより正確に捉えるシステムは、監視も強化しうる。必要な用途なのか、実際に選択できるのか、導入に誰が異議を唱えられるのか。精度は複数ある問いの一つであり、正当性を単独では決められない。

映画は研究を組織的な活動や公的監督へ結びつける。そのため、科学者が欠陥を発見し、企業が修理し、差別がなくなるという安心できる結末には収まらない。企業の自発的な停止は持続的な権利ではないし、後の企業判断を、具体的な時期や根拠なしに単独の論文の成果と決めつけることもできない。

観客に求められるのも同情だけではない。生体情報の収集や自動審査が日常のサービスに組み込まれていれば、「同意」はほかに選択肢のない受諾かもしれない。これを市民の権利の問題として捉えると、カメラから巧みに隠れる個人の能力より、制度の責任を問える。

偏見の発見から決定権の変更へ

公式教育ガイドは、自動意思決定や地域社会による監督の問いへ進む入口になる。ただし、2020年前後の技術と議論を、現在の全地域、全モデルの状態と同一視してはならない。映画は継続中の闘いへの介入であり、問題解決の証明書ではない。

『データ・フェミニズム』で分類、文脈、労働を考え、Not My AIでラテンアメリカの公共サービスから自動化自体の必要性を問える。『The Cleaners』は、プラットフォームの自動化という外観を支える人間の判断を示す。機械が全員を見るかだけでなく、人をどう見るかの決定権を誰が持つのかへ進める組合せである。