技術的に間違っている

Technically Wrong は、技術的な力がどのように日常化されるかを示す小さなインターフェースを考察している：クィア家族を表現できない登録フォーム、身体に関する狭い前提に基づいて作られた健康ツール、痛みを呼び起こす記憶を表面化させるプラットフォーム、嫌がらせに訓練されたチャットボット、人種的罰を再生産するリスクシステムなど。サラ・ワクター＝ベッチャーの指摘は、各失敗が孤立したバグであるということではない。プロダクトチームは繰り返し、摩擦のない「標準ユーザー」を想定し、その人物をデフォルトやデータフィールドに組み込み、その他すべての人の排除を例外的ケースとして説明する。したがって、デザインは誰の生活が想定され、誰が常に例外を求めなければならないかを静かに決定するシステムとなるのである。

この本は、有害な製品とそれを生産する労働文化を結びつけている。均質なチーム、英雄的創業者の神話、成長指標、および素早く動く習慣は、倫理的な反省を技術的能力の一部としてではなく、障害とみなすことを容易にしている。フェミニストの観点から見ると、これは変わらない産業に女性を単に増やすという問題を超えて議論をシフトさせる。多様な人々の参画は重要であるが、アカウンタビリティには、研究手法、意思決定権限、テスト、コンテンツ戦略、そして搾取を奨励するビジネスインセンティブを変えることも必要である。人間的なインターフェースとは単に丁寧な文章ではなく、デザイナーが悲嘆、障害、人種化、ジェンダーの多様性、そしてユーザーがシステム自体に脆弱である可能性を考慮している証拠である。

ジェネレーティブAIが大量生産される前に出版されたため、現在ではいくつかの例がデジタルライフの初期の層のように見える。その距離感が、この方法をより役立つものにしている：現代のAIシステムはいまだにカテゴリー、データセット、組織のインセンティブ、想定されるユーザーを受け継いでいる。この本は、日常のフラストレーションと構造的批判との間の分かりやすい橋渡しとして最も強いが、プラットフォーム労働、監視、グローバルなサプライチェーンについては包括的ではない。FemRes読者にとっては、注意を向ける実践的な習慣を提供する――デフォルトを誰が定義したのか、速度から誰が利益を得るのか、誰が誤りを吸収するのか、被害を受けた人々に製品を変える本当の権限があるのかを尋ねることだ。