聯合國教科文組織《人工智慧倫理建議書》

聯合國教科文組織大會於2021年11月23日通過《人工智慧倫理建議書》。第87至93段談性別，要求倫理影響評估納入性別觀點，並將開發、使用與管理連在一起。風險可能來自資料蒐集和工具採購，也可能在實際運用後才浮現。

偏見與決定技術用途的人

建議書同時討論如何修正刻板印象與擴大參與。訓練資料可能帶入既有分工，招募與升遷制度也會影響誰能決定系統要最佳化什麼。文中提到公共研究經費和團隊的代表性，讓人得以比較資源配置、專案目標與實際受益者。

可近性也包含能否負擔和使用技術。基礎設施、教育、照顧所需的時間與免受騷擾的條件，都會影響參與機會。就算一套系統通過某項偏差測試，申訴管道和負責改善的機關仍要具體安排。

從採購一路追到申訴

可以用一套假設的招募篩選系統，把倫理影響評估和性別章節連起來讀。用舊有升遷經驗預測能力，可能會把過去的升遷門檻寫進對個人的判斷。就算資料裡刪除性別欄位，過去誰能帶團隊、誰被派到容易做出成果的職位，仍然留在訓練紀錄裡。評估要交代指標怎麼來，才能辨認看似一視同仁的評分沿用了哪些差距。

下一步是釐清誰能要求更正。採購機關決定系統怎麼用，廠商可能掌握解釋評分的資料，應徵者則得知道自己何時受到自動評分。如果權責不清，即使發現某群人屢屢得到不利結果，也未必有辦法改變用人決定。建議書把性別觀點帶進計畫的不同階段，因此可以追問誰能要求檢查資料、重審個案或暫停使用。具體效果還得從實際的監管與申訴處理來判斷。

搭配《網路女性主義原則》閱讀，可以比較政府間規範與運動文獻關心的權力問題。個別系統的成效則需要從實際評估、監督及回應來判斷。

原文