技术上错误

《技术上的错误》 探讨了技术力量如何通过微小的界面变得平凡：无法代表酷儿家庭的注册表格、围绕对身体狭隘假设构建的健康工具、带出痛苦回忆的平台、被训练用于骚扰的聊天机器人，以及复制种族惩罚的风险系统。Sara Wachter-Boettcher 的观点不是说每个失败都是孤立的漏洞。产品团队不断地设想一个无摩擦的“普通用户”，将这个人编码到默认值和数据字段中，然后将其他所有人的排除描述为边缘案例。因此，设计成为一个静默的系统，用来决定谁的生活会被预见，谁必须不断地申请例外。

这本书将有害产品与生产它们的劳动文化联系起来。同质化团队、英雄创始人神话、增长指标以及快速行动的习惯，都使得将伦理反思视为障碍而非技术能力的一部分变得更容易。从女性主义的视角来看，这将问题从简单地增加未改变行业中的女性数量，转向更深层次的探讨。代表性很重要，但问责还需要改变研究实践、决策权、测试、内容策略以及奖励剥削的商业激励。人性化界面不仅仅是礼貌的文案；它也是设计师考虑到悲伤、残疾、种族化、性别差异，以及用户可能对系统本身脆弱的证据。

在生成式人工智能成为大众产品之前出版的作品，现在看来其中一些示例更像是数字生命的早期层次。这种距离感不仅没有减少方法的价值，反而增强了其作用：当代人工智能系统仍然继承了类别、数据集、组织激励和想象中的用户。该书最闪光的地方在于，它作为日常挫折与结构性批判之间的可理解桥梁，虽然在平台劳动、监控和全球供应链方面的覆盖不够全面。对于FemRes的读者来说，它提供了一种实用的关注习惯——问是谁定义了默认值，谁从速度中受益，谁承受错误，以及受害者是否拥有真正改变产品的权力。