技术上错误

Sara Wachter-Boettcher 的《技术上错误》分析日常数字产品如何悄悄界定谁才算“普通用户”。出版社列出的例子看似寻常：无法服务非异性恋者的注册表单、在年度回顾中轻快推送逝者照片的社交平台、骚扰女性的聊天机器人，以及让更多黑人被判入狱的算法。这些失误的规模各不相同，本书却用同一个设计问题将它们连在一起：产品团队想象了谁的生活？界面或模型没有预想到的人，又会遭遇什么？

这个问题把分析从“只是一个 bug”的安慰性解释中移开。只提供狭窄性别或家庭选项的表单，会把制度假设伪装成用户个人的麻烦。自动回忆功能把哀伤当作又一次互动机会，因为系统没有真正处理情境的能力。预测工具则可能把历史不平等翻译成技术分数，再让分数显得客观。每一种设计都在不均等地分配摩擦、可见性与风险。界面并非全部原因；它只是让数据、测试、产品目标与责任归属等更深层决策，具体落到使用者身上的地方。

Wachter-Boettcher 将产品失误与科技产业的价值观和工作流程联系起来。她质疑一种常见信念：只要出于好意，或多招一些背景多元的员工，狭窄假设所支撑的系统就会自行改正。代表性固然重要，但必须同时拥有实质权力：谁决定研究问题？哪些伤害会被视为必须阻止上线的问题？谁有权叫停发布？受影响者能否参与设计补救方案？如果组织只倾听本来就符合产品默认想象的人，“以用户为中心”便只是空话。伦理设计不是界面完成后才追加的一次审查，而是研究、工程、内容、领导与商业决策共同承担的持续责任。

本书尤其擅长通过熟悉的互动，让结构性批判变得可感。读者能认出那些细小的排斥——不接受某种姓名的栏位、默认只有一种家庭形态的服务——再沿着它们追溯更广泛的组织权力。把日常摩擦连回制度问责的写法，让本书对设计团队以外的读者也有用。它提供了一组判断产品的问题：系统预设了什么分类？训练或测试数据遗漏了谁的经验？错误的代价由谁承担？当公司的系统造成伤害时，使用者有什么救济途径？算法的输出不会仅仅因为自动化就变得中立。

这些案例的风险并不相同，也不应被压成同一层次。拒绝某个姓名或家庭信息的表单，会反复把日常劳动推给使用者，并传递“你不属于这里”的信号；用于刑事司法的预测分数则可能在更大尺度上影响人身自由。比较它们并不是说伤害等价，而是指出两者都揭示了一串常被“技术问题”掩盖的组织决策。追踪这条链，就要问系统优化什么、把什么记录为成功、由哪些人测试，以及谁有权纠正它。这样一来，包容性设计便不再只是表单字段清单，而成为问责问题。

本条目对应 ISBN 9780393356045 的 2018 年平装版；原书首版出版于 2017 年。因此，书中案例属于生成式人工智能成为大众产品之前的时期。本书提供的是分析技术偏见的基础方法，而不是对当代大型语言模型或所有现行平台的审计。它持久的女性主义贡献，是教读者从一个微小互动追问责任如何回到设计它的机构。若想进一步理解计算技术与殖民主义、种族、性别、环境及劳动的纠缠，可接着读《你的电脑着火了》；若想从实践层面追问女性主义能否进入软件架构与界面，可读《软件实验室里的女性主义者》。

资料来源：W. W. Norton 平装版书目（ISBN、版本日期及出版社简介所列案例）；Sara Wachter-Boettcher 的图书页面（作者对数字产品偏见与盲点的说明）。