人工智能中的性別偏見與數字女性主義：通過數字素養賦權女性

引言：算法時代的性別正義

人工智能已經成為日常生活不可或缺的一部分，涵蓋了全球社會的各個方面。鑑於AI在社會中的滲透，以及對AI偏見的擔憂，人文和社會科學領域對AI的批判性學術研究已經獲得了關注。特別有力的AI批判包括受美國黑人女性主義啟發的學術著作。

2025年1月發表的一項敘述性綜述調查了人工智能系統中的性別偏見與數字素養在科技領域賦權女性潛力之間的相互作用。該研究通過綜合2010至2024年的研究，檢驗了性別偏見如何在AI中體現、其對女性參與科技的影響，以及數字素養倡議在解決這些差異方面的有效性。

AI性別偏見的表現形式

數據中的歷史偏見

AI系統的核心問題之一是它們依賴歷史數據進行訓練。這些數據往往反映並延續了現有的社會偏見。當AI系統在歷史上帶有偏見的數據上進行訓練時，它們可能保持甚至加劇性別差異。

伯克利哈斯性別與領導力平等中心的一項研究分析了不同行業的133個AI系統，發現約44%顯示性別偏見，25%同時表現出性別和種族偏見。這些偏見不是偶然的故障，而是系統如何設計和訓練的結構性結果。

語言模型中的性別刻板印象

大型語言模型的分析揭示了令人不安的模式。女性被描述為從事家務勞動的頻率遠高於男性——某個模型中是四倍——並且經常與“家庭”、“家人”和“孩子”等詞聯繫在一起，而男性名字則與“商業”、“高管”、“薪水”和“職業”相關聯。

這些關聯不僅僅是無害的統計模式。它們影響著AI系統如何做出影響真人的決策——從招聘推薦到貸款批准，從醫療診斷到法律判決。

行業特定的偏見

招聘和人力資源：基於AI的招聘工具對女性的幫助較小。亞馬遜著名地放棄了一個顯示對女性有偏見的AI招聘工具，對包含“女性”一詞的簡歷（如“女子國際象棋俱樂部隊長”）進行降級。

語音識別：語音識別系統通常在女性聲音上表現不佳。研究表明，領先的語音識別系統對男性聲音的準確率比女性聲音高13%。

醫療保健：AI診斷工具可能基於有偏見的訓練數據對女性健康狀況進行誤診或診斷不足，歷史上醫學研究中女性代表性不足。

金融服務：信用評分算法和貸款批准系統可能系統性地不利於女性，特別是那些有照顧責任或非線性職業道路的女性。

結構性原因分析

AI勞動力中的代表性不足

全球僅有22%的AI工作者是女性。這種代表性不足產生了連鎖效應：

設計盲點：男性主導的團隊可能沒有意識到或優先考慮影響女性的問題。

測試不足：產品可能沒有充分測試各種用戶群體，導致對某些人口統計數據的性能較差。

文化偏見：工作場所文化可能無意中排斥或邊緣化女性，延續了代表性不足的循環。

算法設計選擇

性別偏見源於多種因素，包括AI開發團隊中女性代表性不足、帶偏見的訓練數據集和算法設計選擇。這些不是中性的技術決策，而是反映並強化社會價值觀和優先事項的選擇。

例如，優化參與度或點擊率的算法可能無意中推廣強化性別刻板印象的內容，因為這些內容由於確認偏見往往會產生更高的參與度。

數字女性主義的興起

作為抵抗工具的技術

儘管存在這些挑戰，數字技術也成為了女性主義抵抗的有力工具。數字女性主義包括使用數字平臺和工具來推進性別平等和挑戰父權結構。

計算機科學家、作家和活動家Joy Buolamwini和Timnit Gebru的行動主義，她們明確推廣黑人女性主義視角，同時提高人們對跨性別技術用戶經歷的認識，已經影響了圍繞面部識別技術的監管努力。Buolamwini通過在國會就面部識別技術中的種族和性別偏見作證，參與了美國國家的核心機構。

女性視角與行動主義

從數字對話中女性用戶互動收集的實證數據突出顯示，最突出的興趣主題是AI技術的未來和女性在保證性別平衡系統中的積極作用。算法偏見影響女性用戶對算法結果中不公正和不平等的響應行為。她們分享感興趣的主題，並與性別或種族賦權協會相關的檔案進行建設性對話。受到刻板印象和偏見挑戰的女性可能會資助創業解決方案，為變革創造機會。

社交媒體作為組織空間

2025年Fraile-Rojas及同事的一項研究探討了使用自然語言處理（NLP）技術和機器學習（ML）模型來發現女性社交媒體對話中應用於人工智能（AI）技術的性別不平等的潛在概念。

社交媒體平臺已成為：

意識提升：分享關於AI偏見的信息和經驗。

集體行動：組織活動和倡議以挑戰技術中的性別歧視。

知識生產：眾包研究和記錄偏見實例。

支持網絡：為科技領域的女性建立社區和指導。

數字素養作為干預手段

轉型工具

數字素養計劃成為一種有前景的干預措施，培養對AI偏見的批判性認識，鼓勵女性從事AI職業，並促進女性主導的AI項目的增長。儘管AI中的性別偏見帶來了重大挑戰，但這項綜述強調數字素養是實現AI開發和應用中性別平等的轉型工具。

數字素養不僅僅是技術技能；它包括：

批判性AI素養：理解AI系統如何工作，它們的侷限性，以及偏見如何嵌入其中。

數據素養：理解數據如何收集、處理和用於決策。

算法意識：認識到算法何時做出影響人生活的決策。

數字權利知識：理解隱私、同意和數字環境中的權利。

成功的數字素養計劃

有效的數字素養計劃具有幾個關鍵特徵：

交叉性方法：認識到性別與種族、階級、年齡和其他身份因素相交。

實踐學習：提供AI工具和技術的實際操作經驗。

批判性視角：鼓勵質疑和挑戰現有系統，而不僅僅是適應它們。

社區建設：創建支持網絡和指導機會。

政策參與：將技術技能與倡導和政策變革聯繫起來。

制度和政策回應

監管框架

世界各地的政府和國際組織正在制定解決AI偏見的框架：

歐盟AI法案：包括防止歧視的具體條款，並要求高風險AI系統的透明度。

UNESCO關於AI倫理的建議：強調性別平等和在AI開發各個階段包容女性。

國家倡議：各國正在制定自己的AI倫理指南和法規，越來越多地納入性別考慮。

企業責任

科技公司面臨越來越大的壓力來解決其產品中的性別偏見：

多樣性倡議：增加AI團隊中女性代表性的計劃。

偏見審計：定期測試和評估AI系統的歧視性結果。

透明度報告：公開勞動力多樣性和AI系統性能的數據。

道德委員會：建立監督小組來審查AI開發和部署。

全球視角與文化考慮

南半球的挑戰

發展中國家的女性在AI和數字技術方面面臨著複合挑戰：

基礎設施障礙：有限的互聯網接入和數字設備。

教育差距：STEM教育機會較少。

文化規範：限制女性參與技術的社會期望。

經濟約束：數字工具和教育的成本。

本土和非殖民化方法

越來越多的人認識到需要多樣化的技術開發方法，這些方法不僅僅複製西方模式：

本土AI：整合本土知識系統和價值觀到AI開發中。

社區主導的解決方案：支持解決特定性別不平等的地方倡議。

語言多樣性：開發適用於非英語語言和文化的AI系統。

未來方向與建議

包容性AI設計

該研究強調了包容性AI設計、性別響應教育政策和持續研究努力以減輕偏見和促進公平的重要性。

包容性設計原則包括：

多樣化團隊：確保AI開發團隊中的性別、種族和背景多樣性。

參與式設計：讓不同的用戶群體參與設計過程。

交叉性測試：評估AI系統對不同交叉身份的影響。

持續監測：實施系統以檢測和糾正部署後出現的偏見。

教育改革

需要對教育系統進行根本性改變：

早期干預：從小學開始引入計算思維和AI素養。

課程改革：將性別研究和倫理整合到技術教育中。

教師培訓：為教育工作者配備解決課堂中性別偏見的工具。

榜樣和指導：突出成功的女性技術專家並創建指導計劃。

研究議程

未來的研究應該關注：

長期影響：跟蹤數字素養干預的長期結果。

交叉性分析：檢查性別如何與其他身份因素相交影響AI體驗。

全球比較研究：理解不同文化背景下的性別偏見如何表現。

技術創新：開發新工具和方法來檢測和減輕偏見。

結論：走向性別公正的AI未來

2025年關於數字女性主義、算法偏見和AI性別歧視的研究表明，雖然AI中的性別偏見仍然是一個重大挑戰，但對數字女性主義方法的學術關注日益增加，強調數字素養、包容性設計和交叉性框架是解決算法歧視的關鍵策略。

道德AI涉及在解決性別、種族、民族、社會經濟地位和其他決定因素的問題時採取交叉性方法，除了採用以透明度、問責制和人類尊嚴為前提的基於人權的AI治理方法。不同的利益相關者，包括商業和企業實體、科技公司、學術界、聯合國實體、民間社會組織、媒體和其他相關行為者應該聯合起來，探索共同的解決方案。

正如研究所示，雖然挑戰是真實和重大的，但通過協調努力、批判性意識和對公平的承諾實現改變的潛力同樣強大。未來不是預先確定的；通過認識和解決AI中的性別偏見，我們可以努力創造一個技術服務於所有人的更公正的數字未來，無論性別如何。

通往性別公正AI的道路需要技術創新、政策干預、教育改革和文化變革的結合。這不僅僅是一個技術挑戰，而是一個社會挑戰，需要所有利益相關者的集體行動。只有通過這種全面的方法，我們才能確保AI革命不會延續過去的不平等，而是有助於創造一個更加平等的未來。