技術上錯誤

技術上錯誤 探討了科技力量如何通過微小的介面變得平凡：無法代表酷兒家庭的註冊表、基於對身體狹隘假設建構的健康工具、帶出痛苦回憶的平台、被訓練成騷擾工具的聊天機器人，以及再現種族懲罰的風險系統。Sara Wachter-Boettcher 的觀點不是每個失敗都是孤立的漏洞。產品團隊反覆想像一個「正常用戶」的順暢體驗，將這些想像編碼到預設值和數據欄位中，然後將其他人的排除描述為例外情況。因此，設計成為一個默默決定誰的生活被預見、誰必須不斷申請例外的系統。

這本書將有害產品與生產它們的勞動文化聯繫起來。單一化的團隊、英雄創辦人的神話、增長指標以及快速行動的習慣，都使得將倫理反思視為障礙而非技術能力的一部分變得更容易。從女性主義的角度來看，這將問題超越了僅僅在一個未改變的產業中增加更多女性的層面。代表性固然重要，但問責制也需要改變研究實踐、決策權力、測試、內容策略以及鼓勵剝削的商業激勵。一個人性化的介面不僅僅是禮貌的文案；它是設計者考慮到悲傷、殘障、種族化、性別差異以及使用者可能對系統本身脆弱的一種證據。

本書發表於生成式人工智能成為大眾產品之前，其中一些範例現在看起來像是數位生命的早期層次。這種距離使得這種方法更有用，而非更無用：當代的人工智能系統仍然承襲了分類、數據集、組織激勵和想像中的使用者。本書最有力的地方在於它作為日常挫折與結構性批判之間的易於理解的橋樑，儘管在平台勞動、監控和全球供應鏈方面的涵蓋較少。對 FemRes 的讀者來說，它提供了一種實用的注意力習慣——詢問誰定義了預設值、誰從速度中受益、誰承擔錯誤，以及受害者是否擁有實際權限去改變產品。