技術上錯誤

Sara Wachter-Boettcher 的《技術上錯誤》分析日常數位產品如何悄悄界定誰才算「一般使用者」。出版社列出的例子看似尋常：無法服務非異性戀者的註冊表單、在年度回顧中輕快推送逝者照片的社群平台、騷擾女性的聊天機器人，以及讓更多黑人被判入獄的演算法。這些失誤的規模各不相同，本書卻用同一個設計問題將它們連在一起：產品團隊想像了誰的生活？介面或模型沒有預想到的人，又會遭遇什麼？

這個問題把分析從「只是程式錯誤」的安慰性解釋中移開。只提供狹窄性別或家庭選項的表單，會把制度假設偽裝成使用者個人的麻煩。自動回憶功能把哀傷當作又一次互動機會，因為系統沒有真正處理情境的能力。預測工具則可能把歷史不平等轉譯成技術分數，再讓分數顯得客觀。每一種設計都在不均等地分配摩擦、可見性與風險。介面並非全部原因；它只是讓資料、測試、產品目標與責任歸屬等更深層決策，具體落到使用者身上的地方。

Wachter-Boettcher 將產品失誤與科技產業的價值觀和工作流程連在一起。她質疑一種常見信念：只要出於善意，或多聘一些背景多元的員工，狹窄假設所支撐的系統就會自行改正。代表性固然重要，但必須同時擁有實質權力：誰決定研究問題？哪些傷害會被視為必須阻止上線的問題？誰有權叫停發布？受影響者能否參與設計補救方案？如果組織只傾聽本來就符合產品預設想像的人，「以使用者為中心」便只是空話。倫理設計不是介面完成後才追加的一次審查，而是研究、工程、內容、領導與商業決策共同承擔的持續責任。

本書尤其擅長透過熟悉的互動，讓結構性批判變得可感。讀者能認出那些細小的排斥——不接受某種姓名的欄位、預設只有一種家庭形態的服務——再沿著它們追溯更廣泛的組織權力。把日常摩擦連回制度問責的寫法，讓本書對設計團隊以外的讀者也有用。它提供一組檢視產品的問題：系統預設了什麼分類？訓練或測試資料遺漏了誰的經驗？錯誤的代價由誰承擔？當公司的系統造成傷害時，使用者有什麼救濟途徑？演算法的輸出不會僅僅因為自動化就變得中立。

這些案例的風險並不相同，也不應被壓成同一層次。拒絕某個姓名或家庭資訊的表單，會反覆把日常勞動推給使用者，並傳遞「你不屬於這裡」的訊號；用於刑事司法的預測分數則可能在更大尺度上影響人身自由。比較它們並不是說傷害等價，而是指出兩者都揭示了一串常被「技術問題」掩蓋的組織決策。追蹤這條鏈，就要問系統最佳化什麼、把什麼記錄為成功、由哪些人測試，以及誰有權修正它。如此一來，包容性設計便不再只是欄位清單，而成為問責問題。

本條目對應 ISBN 9780393356045 的 2018 年平裝版；原書首版出版於 2017 年。因此，書中案例屬於生成式人工智慧成為大眾產品之前的時期。本書提供的是分析科技偏見的基礎方法，而不是對當代大型語言模型或所有現行平台的審計。它持久的女性主義貢獻，是教讀者從一個微小互動追問責任如何回到設計它的機構。若想進一步理解運算科技與殖民主義、種族、性別、環境及勞動的糾纏，可接著讀《你的電腦著火了》；若想從實踐層面追問女性主義能否進入軟體架構與介面，可讀《軟體實驗室裡的女性主義者》。

資料來源：W. W. Norton 平裝版書目（ISBN、版本日期及出版社簡介所列案例）；Sara Wachter-Boettcher 的圖書頁面（作者對數位產品偏見與盲點的說明）。