演算法看見誰？Joy Buolamwini 談偏見

Joy Buolamwini 的 TED 演講從一個看似細微、卻不能輕輕帶過的技術故障開始：她製作的 Aspire Mirror 無法辨認她的臉，直到她戴上一張白色面具。她也回憶早期人機互動計畫未能辨識她的經驗。這不只是抽象的「演算法偶爾會出錯」，而是系統將某些人的面孔當成預設樣本、把另一些人留在辨識範圍之外時，日常生活中顯現的裂縫。她將這種視角稱為「編碼凝視」：技術並非從中立真空觀看；建構裝置的人、選擇訓練材料的人、定義成功標準的人，都會影響它看得見誰。

演講將個人經驗連到更大的演算法決策鏈。當人臉分析與辨識被用於商業、監控或公共安全場景，錯誤不只是介面上的挫折；它可能影響身分確認、可疑程度的判斷，以及誰更容易遭到誤認或持續觀察。這裡的女性主義問題不只在於「讓資料集更平衡」：哪些機構取得觀察與分類他人的權力？被分類的人是否知道系統如何運作？錯誤能否被質疑？受影響的社群是否參與設定用途與界線？

身為黑人女性研究者，Buolamwini 讓種族與性別的交會進入演算法評估，而不是將兩者拆成互不相干的測試維度。TED 演講以個人敘事讓大眾看見這個問題；她相關的研究則能引導讀者轉向更有系統的評估。Gender Shades 適合與演講並讀：演講呈現一個人如何發現技術視野的邊界，研究則將對差異化錯誤的追問化為可檢視的評估問題。兩者用途不同，不能把一場演講當成研究論文的替代品。

這場演講的長處，是讓「技術偏見」成為具體的人機關係，並邀請沒有工程背景的觀眾追問設計責任。它的界線也很清楚：一場約八分鐘、於2017年發表的公共演講，無法證明今日每一種模型、訓練資料或應用場景的風險；也不能取代當下的獨立稽核、公共採購限制、透明度要求與申訴機制。觀看時不妨把它當作入口而非最後診斷：從一次辨識失敗出發，繼續追問誰設定系統目標、誰承受代價，以及受影響的人是否有權要求它停止。

演講與延伸閱讀：TED 官方演講及字幕；Gender Shades：交叉性準確度研究。