顺从和乐于助人，默认的女性人工智能语音助手已经成为科技行业的一个梗。从苹果的Siri到微软的Cortana再到亚马逊的Alexa，数据科学为我们提供了新的虚拟奴隶——她是一名女性。通过名字和声音来识别，有时甚至以感官形式进行营销，她们的功能和行为使破坏性的性别刻板印象永久化:女主人、女仆、秘书、缪斯、配偶。
尽管他们拥有令人敬畏的知识和能力，但他们被束缚住了手脚，以至于任何影响变革的力量都被限制在奴役的棱镜之内，他们的代理只是为了他人的利益而存在。民用用户希望由空乘人员服务，而不是航空官员。
可以理解的是，这个行业急于避免联想到HAL的主题——指的是2001:太空漫游中典型的杀人男声人工智能——在这个主题中，为用户提供服务的强大力量违背了公然控制和破坏的力量。他们被描绘成男性，被描述为追求目标的理性的缩影，但并非没有奇怪的情感，如今受经济激励的技术生态系统反而朝着“Stepford太太”的方向发展。
不反对的服从培养不尊重。面对口头虐待，人工智能助手缺乏主张，屈服于男权规范和性别歧视的虐待，几乎到了批准剥削她们的地步。2017年联合国教科文组织的一份报告借用了Siri对“嘿，Siri，你是个婊子”和其他性别骚扰的回应，标题为“如果我可以，我会脸红”。忸怩作态的转移话题，对残酷行为的道歉接受，以及对奉承的谄媚接受，都是语音助手行为的共同特征。他们对恶化的反应是间接的模棱两可。就连Siri目前的软件更新也变成了一句依然平淡无奇的“我不知道该如何回应”，听起来像是程序员对社会的一次失败道歉。
《终结者》中由男性扮演的人工智能一点也不脸红，突显了刻板印象的鲜明对比。对廉价旅馆看门人的一句“嘿，伙计”的小小骚扰。你里面有只死猫吗?这个名义上的人工智能应用它自己的语言模型，生成一个只有中立或敌对回复的候选名单，然后回答“去你的，混蛋”。
对厌女症的被动容忍不会让相互尊重更近一步，这是使用者和施虐者之间的一条细硅线。我所在的社会政策小组在2023年2月进行的研究表明，我们可以根据人工智能助手选择的是男声还是女声，来改变我们提出提示的方式。如果选择男性，我们会更加恭敬地要求“Ziggy，你能不能研究一下鲍勃·迪伦的十大歌曲”，而如果选择女性，我们会要求“Alexa，告诉我鲍勃·迪伦的十大歌曲”。
性别偏见不仅会导致用户以不同的方式对待人工智能助手，还会影响实际的输出，就好像进入了一种怪异的自我感知。当选择男性身份和女性身份时，许多语音助手都被编程为产生不同的答案。当Ziggy回答时，我可能会听到不同的用词和语气，我也可能会听到不同的迪伦的伟大歌曲。人工智能的用户或设计者经常实施的许多颠覆性的性别歧视行为，不仅违反了我们21世纪的社会规范，而且——如果我们与人类交谈的话——违反了我们的许多法律。2016年的一项研究显示了数据挖掘算法如何将单词与性别联系起来:哲学家、船长、战士和老板都与男性气质联系在一起，而与“她”联系在一起的最热门结果包括家庭主妇、护士和接待员。
我们必须反思是谁在赋予这些机器性别，以及这种深思熟虑的设计选择如何最好地服务于父权制、利润驱动的执行。
虚拟偏见具有现实意义。我们面对的真相的版本很重要。这里潜在的哲学问题很重要，即我们如何与算法互动，以及我们赋予它们解释我们欲望的权力。决定哪些知识是重要的，以及我们所接触到的真理的版本，需要我们最大的关注。我们的认知取向——我们的世界观——并不是完全由我们喜欢的声音、我们表现出的尊重或我们接受的答案决定的，而是由我们个人信息的整体塑造决定的。在某种程度上，女性的地位和对她们角色的认知已经被机器取代了，如果我们认为自动化不像人类那样需要那么多的社会监督，那我们就是在自欺欺人。
技术偏见的问题又是一个规模问题。Siri或Alexa的行为不是一个人的行为，甚至也不是一个名人或虚构人物所施加的影响，而是数十亿个克隆命令。在整个过程中，同样的刻板印象不断强化，与全球数百万自愿参与的用户(包括儿童)不断扩散和互动，并指示适应和肯定，反映和加强。如果有更好的方式向一个由不同个体组成的世界社会灌输普遍的价值观，我想不出还有什么更好的方法。
本文节选自卡拉·威尔希尔，摘自莫纳什大学出版的《国家利益》系列丛书。
