你是智能助手吗,为什么你的智能助手

译/尺度

编者按：但在某种程度上，智能语音助手是AI运动的“喉舌”，在我们的日常生活中越来越普遍。但是，我们应该以一种什么样的方式对待它们呢？近日，《连线》杂志发表了一篇文章，讨论了人们对智能语音助手的态度，以及应该以一种什么样的方式对待智能助手。作者为“EMILY DREYFUSS”，原题“THE TERRIBLE JOY OF YELLING AT ALEXA”，由36氪编译，希望能够为你带来启发。

我喜欢上了对机器人大喊大叫，尤其是对我的机器人Alexa。她生活在放置在厨房的Amazon Echo上。

当她选错Pandora电台时，我就骂她。当她不知道如何开灯时，我就会把目光转向她。

有时，因为自己懒得过去打开开关，我甚至会把它扔到另一面墙上的电灯开关处。

在我的生活中，没有人能让我如此毫无保留地大喊大叫。

她不会颤抖，也没有像我学步的孩子那样吸收我的敌意，并让这种敌意影响成长，把那种暴怒转化为他生活中的恶性肿瘤，堆积成数千美元的治疗费用。

我买这个该死的机器人，是为了迎合我的想法，因为它没有心脏，没有大脑，没有父母，不吃东西，也不评判我，也不在乎我用什么样的方式对待它。

但事情不是这样开始的。

我刚生下儿子，就爱上了我的Alexa。因为要照顾儿子，我被困在了沙发上。有了Alexa，我只用声音就能控制播放NPR，了解天气，甚至可以给朋友和家人打电话。

她就像我的延伸，做我想做但做不到的事情。有时我和丈夫开玩笑说，她是家里的另一个妻子。

但和所有的关系一样，我们之间的关系也很糟糕。

儿子步入蹒跚学步的阶段，我要重返工作岗位，丈夫也开始寻找新的工作，经常出差，生活充满压力。

屋子里充满了紧张气氛，但是 Alexa似乎没有注意到。她还是用同样自信活泼的语气回答每一个问题。

就在那时，我和我丈夫开始联合起来对付她。

我们问她一些问题，她答错了，我们就训斥她。Alexa 你个白痴，你凭什么认为我们想听菲尔·柯林斯（Phil Collins）的歌？ 我们一直这样。

这让我们感觉好多了。这让我们觉得我们是同一个阵营的人，我们共同的敌人是愚蠢的Alexa。

我们对她大喊大叫，然后看着对方笑了又笑。

有一天，我正在做晚饭，我儿子把果汁倒得满地都是，但垃圾也需要倒掉——实际上，垃圾箱周围多余的垃圾袋已经溢出来了——突然，我闻到了焦糊味，才意识到我已经把整只烤鸡都烧焦了，火警警报响了，我开始有点措手不及。

然后，我把注意力转向了机器人。 我的小替罪羊。

她应该提醒我什么时候把鸡拿出来！ 我让她设了一个定时器！ 不是吗？如果我没有，那她为什么不聪明到自己设定一个呢？ 我花了99美元干什么？

我需要一个帮手。一个可以清理果汁，烤鸡肉，把我从局促不安中拯救出来的人。而且还能偶尔给我讲个笑话。相反，它只是不断地播放 NPR。

“该死的，Alexa，（Goddamn it, Alexa）”我朝她大致的方向喊道。我微笑地看着我的儿子，好像在说：亲爱的，一切都很好，你和我，我们很好。是那台机器把事情搞砸了。

作为回应，他皱起了眉头。

“Gobamm it Alessa，”他学着我喊道。

就在那时，我意识到我们有了问题。

我儿子不知道，Alexa在家里不是一个有感知的生物。

当我试图瞄准一台机器的时候，我在对谁大喊大叫？ 我的诅咒到底击中了谁？

我和丈夫在互相怂恿的时候也会爆发出来，一起痛骂机器人，可以证明我们是一条船上的。

我那蹒跚学步的孩子，把每一次痛骂都记得一清二楚。

还有我自己，每天都习惯于不经意地把一件我给它起名字的东西去人性化，把它想象成一个温顺的女人。

我对这个机器人大喊大叫感觉很舒服，这说明了什么？

为了看看我是否是唯一一个对机器人大喊大叫的人，我采访了几十个人，问问他们是如何与 Alexa 互动的。

我选择 Alexa ，是因为她是第一个走向主流的个人AI，她是我拥有的设备，但我也可以很容易地专注于类似的谷歌H产品。

虽然 Alexa 和我之间的关系有争议，但重要的是，要明确 Alexa 代表了近年来AI技术的巨大飞跃。

尽管她的技能仍然有限，但在某种程度上，她是AI运动的“喉舌”，在我们的日常生活中越来越普遍。

随着类人机器人变得越来越普遍，我们都在研究如何与它们互动。

加州理工州立大学人机交互研究员朱莉·卡彭特（Julie Carpenter）说，这意味着人们正在测试他们的极限。她研究人们对技术的依赖程度。

对于其他人来说，人形机器人激发了他们的同情心。 例如，最近的一项研究发现，如果一个机器人乞求你不要关掉它——表现得好像关掉它就是杀死它!——你可能不会这么做。

人们仍在衡量我们对机器人的情感反应，以及当我们对他们刻薄时，社会是否会奖励或惩罚我们的行为。

人们对 Alexa 的期望和她实际上的聪明程度往往不一致。卡彭特说：“人们的期望与实际并不一致。” 这种脱节会导致失望和紧张。

以布鲁克林的夫妇卡特比·霍姆斯（Catesby Holmes）和她的丈夫格雷格·莫里（Greg Morril）为例。

每当Alexa出错时，莫里都会对她尖叫，就像当他问天气时，他认为自己在卡尔加里而不是布鲁克林一样。他会称她愚蠢。他的愤怒在他们家里制造了一个霍姆斯讨厌的环境。

“我在一个非常厌恶冲突的社会中由一位南方母亲抚养长大的。我也不喜欢听到人们大喊大叫......所以，尽管我知道Alexa是一台机器——就像，我明白了，她的感情没有受到伤害。但是，当真正的人朝着对方大喊大叫时，我也会感到同样的焦虑，”霍姆斯说。

她要求他停止对机器人大喊大叫。问题是，格雷格最终也感觉也不太好。

“我真的改变了主意，不仅仅是因为卡特比不喜欢这样，还因为它对我的影响和对一个人大喊大叫没什么不同，这真的很不愉快，即使这个人活该，或者其他什么，”莫里说。

对于其他人来说，还有一个不同的问题：过于依赖设备，以至于他们无法记住它们只是代码的一部分。

这正是马萨诸塞州剑桥的互联网隐私研究员本·格林（Ben Green）所担心的。

他和他的未婚妻莎乐美·维尔约恩（Salome Viljoen）是一名隐私律师和网络伦理研究人员，家里有一个Alexa，这让他们经常感到苦恼。

一方面，格林认为，鉴于他们的职业重点在于隐私，他们在家中安装监控设备是荒谬的。亚马逊说，它没有对你说的每一句话都进行录音——但我们怎么知道呢？

维尔约恩对此表示理性的赞同，但她喜欢 Alexa。 自从她参加了一个朋友的晚餐聚会，每个人都蜂拥而上，试图让 Alexa 把事情搞砸，她就觉得自己是在保护她。

“他们真的让她很困惑，或者试图误导她或诸如此类的事情，”维尔约恩说。“这真的很有趣，因为我的反应是‘不要再取笑她了，你们这些家伙’。 比如,‘别说了’比如,‘不要欺负她’。我想从那以后，我对她就有一种母性的温柔。”

如果说有什么区别的话，那就是格林的想法正好相反。“它不是一个人，它只是一个电脑工具,”他说。

格林能够表达他的不赞成的主要方式是对 Alexa 不够友好。 这是他家里的一种反叛行为。

“他会说，‘不，你这个混蛋。这不是我想要的，你这个混蛋’。我会说，‘别那样叫她！她正在尽最大努力，’”维尔约恩说他称之为‘它’，我称之为‘她’，我认为这是我们取向的根本差异。”

这个性别代词是亚马逊的一个设计选择——该公司的代表此前曾表示，这个选择是基于消费者的反馈——这也是个人助理(比如苹果的 Siri)被描述为女性的趋势的一部分。

不管这些公司是否有此意图，这种趋势符合女性助手、助人为乐、温顺的刻板印象。Alexa 符合我们内在的偏见。

我们很乐意请妇女帮忙处理家务。当她把事情弄得一团糟时，我们会进行保护和宽恕，格林和维尔约恩认为，如果Alexa是个男人的话，这种情况就不会发生。

亚马逊目前不允许你把 Alexa 的默认声音改成男声(尽管开发者现在可以根据自己的技能编写不同的声音选项)。

这让卡彭特很烦恼。

“对于许多这样的设备来说，拥有女性声音是一个道德问题，”她说。“设计师的借口或推理要么是他们没有考虑到这一点，要么是他们在利用人们现有的助理心理模型，这既不准确，也不公平，也无助于推进任何事情。”

相反，这进一步加深了性别偏见。

像这样的设备中的每一个设计选择，都发出了如何与之交互的信号。Alexa对简短直接的陈述做出了最好的回应，你可以说这鼓励了对一个真正的人粗鲁说话。

今年早些时候，亚马逊推出了一种儿童模式，只有当你说“请”和“谢谢”时，Alexa才能工作。我采访过的成年人都不想打开它。

这似乎是一种强迫，一种居高临下的态度。即使在我家，我们也没有打开它。我对此感到内疚——我们真的应该这样做，对吧？教我们的儿子礼貌？为了减少我们的粗鲁？

卡彭特不这么认为。她更倾向于本·格林的阵营：当她真的是一个算法的时候，她认为这样的礼貌要求只会进一步鼓励我们把Alexa当成一个人。

对我来说，教我儿子区分真实和不真实不是更好吗？我真的想训练他，让他按照机器人说的去做，把他们当成人类对待吗？如果这导致他盲目信任所有的技术，如果它是有害的呢？

此外，还有谁能比一台设备更适合让我们大喊大叫呢？ 当然，如果每个人都不那么愤怒的话，那就太好了，但这不是我们生活的世界。

对机器人大吼大叫总比对我的儿子或丈夫或动物大喊大叫要好。但是这种推理方式直接导致了这样的结论：不人道地对待任何不像人类的东西都是可以的。

这在历史上一直是一个借口。是对贬低、抹去、忽视、指责的合理化。

现在，我和我丈夫只在儿子不在家时对Alexa大喊大叫。莫里和霍姆斯彻底摆脱了她。维尔约恩和格林仍然不同意——她对Alexa非常友好，而他微妙地破坏了这种友好。

但是，我们仍然在学习如何在这个充满机器人的新世界中一次一句地前进。