人工智慧與性別平等

藝術家Beyza Doğuç讓AI寫一個醫生和護士的故事，系統反覆為角色分配符合性別刻板印象的身分。這個例子為聯合國婦女署的解釋性文章提供了入口：模型可能把熟悉的社會等級重新生產出來，同時讓輸出看起來只是對世界的普通描述。

從輸出追問產生它的條件

文章把性別偏見和訓練資料、技術領域的不平等參與、治理決策聯繫起來，也呈現研究者Sola Mahfouz對公平的疑問，以及參加程式設計計畫的學生Natacha Sangwa的觀察。這些材料的性質不同：個人經歷不等於對所有模型的控制實驗，參與者對健康工具的擔憂，也不等於已經成立的臨床結論。

女性主義閱讀需要保留這個區別。問題不只是生成的角色被設定成男性還是女性，還包括誰被承認為專家，誰的經驗進入資料，以及系統影響就業、信貸或服務取得時，誰能夠提出異議。讓某一次輸出看起來更均衡，並沒有回答全部問題。

誰能夠改變系統？

增加女性參與，能夠拓寬開發團隊提出的問題，但人數上的代表性不能代替對部署、資源和補救措施的決定權。一個人可能已經進入技術產業，卻無權叫停有害產品。同樣，給資料集增加更多樣本，也不會自動消除機構使用資料時的歧視。

文章對治理的關注，使這些層次得以連接。可以分別考察三項要求：檢查系統產生什麼結果，改變相關決定如何作出，以及讓受到影響的人有辦法獲得補救。三者能夠相互支持，卻不能用其中一項的進展證明其餘都已完成。

這篇文章適合作為理解AI政治的入口，而不是當下模型效能的排行榜。其中關於《全球數位契約》的討論，處在2024年的談判背景中。繼續閱讀時，可以選一個具體用途，追問誰定義可接受的錯誤，誰承擔代價，以及當事人是否能夠拒絕或申訴。