联合国教科文组织《人工智能伦理问题建议书》

联合国教科文组织大会于2021年11月23日通过《人工智能伦理问题建议书》。第87至93段关注性别，要求在伦理影响评估中贯穿性别视角，并把技术的开发、使用与管理联系起来。风险可能产生于数据收集、工具采购，也可能在部署后才被看见。

偏见与决定技术用途的人

建议书同时讨论纠正刻板印象和扩大参与。训练数据能够带入既有分工，招聘与晋升制度也会影响谁可以决定系统优化什么。建议书提到公共研究资金和技术团队中的代表性，提示读者比较资金配置、项目目标与实际受益者。

可及性包括能否负担并使用技术。数字基础设施、教育、照护时间和免受骚扰的条件，会影响参与机会。即使系统通过一项偏差测试，谁能投诉以及主管机构怎样改正仍需具体安排。

在采购和申诉环节追踪责任

可以拿一套假设的招聘筛选系统，把伦理影响评估和性别章节一起读。模型若用过去的升职经历来推测能力，可能会把组织旧有的晋升障碍当作个人表现。即使开发方删除性别字段，过去由谁获准带团队、谁被安排到容易取得成果的岗位，仍会影响训练记录。评估需要说明所用指标如何形成，才看得出一个貌似统一的打分方式会把哪些差距延续下去。

再往后看由谁负责纠正。采购方对系统的用法有决定权，供应商可能握有解释结果的资料，求职者则要知道自己何时被自动评分。若这三方的权责界线不清，即便能指出某个模型反复给出不利结果，也难以改变招聘决定。建议书把性别议题带进项目的多个阶段，由此可以追问谁能要求检查数据、重新评价决定或暂停使用。政策文本提出这些检验方向，具体效果还得看一项系统如何接受监督。

与《互联网女性主义原则》对读，可以比较政府间规范与运动文献各自关心的权力问题。建议书为政策提供规范参照，某一系统的成效须由具体的评估、监督与回应证明。

原文