简体中文 | 繁體中文 | English

辱骂语音助手

2018-03-13 21:42

当你第一次开始玩一个语音助手的时候,你会对 ta 做的最多的一件事情是什么?

我的一个朋友之前从来没有用过自己 iPhone 上的 Siri,虽然 Siri 早在三四年前就被引入。直到我抄起他的手机,并用一句话就设定了一个两小时后的闹钟之后,他才决定开始尝试一下。

在此之前,他都是手动进入“时钟”界面,并且要点按很多次来设置一个闹钟。实际上,设置闹钟和启动搜索引擎、查词等都是人们使用语音助手最常见的用途。

他接下来很自然的开始和助手聊天,但是他不知道,这个助手只能回答单个句子,暂时不能够很好地识别上下文,所以到第二句或第三句话的时候,助手就听不懂了,会回复一些没有意义的回答。

几轮对话之后,他开始认为这个助手很不智能,接下来就对 Siri 说了一句脏话:“你是个傻*。”

当然。Siri 的回复也是中规中矩的,她(在朋友机器上设定是女性)说:“我认为你这样很不文雅。”

朋友并不罢休,接下来又开始用“你妈傻*”,“张三傻*”等词,变着花样来测试其他的脏话。在他接下来使用助手的 10 分钟里一直是这样。

这就让我很好奇:如果人们发现了一个工具,不能记录自己的说话记录,但却能对说的话进行回复,那他们的第一反应是什么?——从这位朋友的反应来看,可能是辱骂这个工具。

这就好像对小猫小狗,人们可能会用“撸”的方式,来进行这只小动物可能并不情愿的身体接触一样。甚至有些人会直接通过踩踏、抽打等方式来虐猫虐狗,但这毕竟是一种极端情况,多数人没有发展到这个程度,是受到了法律和道德的约束。

人们对于自己觉得可爱的小东西有一种控制欲,如果发现并不能控制或者总是达到自己的效果,有时候就会演变成破坏欲。而这种欲望一直都隐藏于人们的潜意识当中,受到法律和道德的规管,不能够充分的发泄出来。

所以人们先后用扎小人、玩暴力电脑游戏等方式去发泄心情。像语音助手这种为你保密,又不会记仇的工具,真的是一个很理想的发泄对象——即使 ta 什么都没有做错。

虽然有人统计过针对语音助手的正常的使用方法,例如设置闹钟或开关家用电器等等,但我相信目前为止,我所看到的任何一个使用场景的调查,都不会把辱骂包括在内。

有一些语音助手会防止人们这样做,因为即使是在一个人畜无害的工具上进行练习,也能够降低人们对这件事情的警戒心理。人们不应该认为辱骂或者是歧视性的言论,在任何一个场合是合理的。即使是私密的场合也不行。

微软的小冰曾经 发布过一项更新,就是所谓的“记仇”:如果用户对小冰不止一次的说过辱骂性的言论,她会记住,并且将这个用户在自己这里的好感度减分,还会有一些冷淡的言语表述作为惩罚。

亚马逊的语音助手 Alexa 也有类似的设置 。原先她还不够智能的时候,会将用户的辱骂言论“你是个婊子”或“你是个荡妇”看作是对自己工作的否定,说“好的,感谢您的反馈”(well, thanks for the feedback),并且将这种反馈提交给亚马逊。

现在 Alexa 会改口说:“这听起来像是性骚扰。性骚扰无论何时何地都不可接受,它通常根植于性别歧视”(That sounds like sexual harassment. Sexual harassment is not acceptable under any circumstances, and is often rooted in sexism.),以此来教育用户。

虽然没有非常精确的数据统计结果,但国外媒体之前曾经在不同的语音助手上测试过对其进行辱骂的相关回复。因为国外要注意得相对更多一点,同时也会测试包括种族歧视或宗教歧视类的内容。其结果都是类似的,就是助手在几轮之后就不会表现得那么像人类了。

而一旦人们能够准确的分辨出机器与真人之间的区别,这种区别就如鲠在喉,最终会让人们意识到,这只是一个工具或者玩具,并且将自己的愤怒或调侃加诸于 ta 的身上。

语音助手归根结底本身只是一种工具,而并不是一个真正的人。但是随着这个助手能做的事情越来越多,也会有更多人将它接纳为一个家庭成员。

而且就像我之前所说过的一样,技术并不需要真正的进化到和真人毫无区别的程度,机器偶尔卖个萌也能让一些多愁善感的用户用脑补去填补它与真人之间的鸿沟。

当这些机器被真正赋予人格的时候,对于他们说不友好的言论,就像对真人一样,需要承受 ta 向你做出“受伤”回馈时的那种内疚情绪。由此,辱骂语音助手也会变得越来越不受欢迎。

正如我在昨晚查资料时看到的一句话——实在忘记了它的出处,但说得非常有道理:“当人们开始称呼助手为‘她’(而不是‘它’)的时候,他们就已经输掉了这场对机器的战争。”

辱骂语音助手最先出现在动点科技

原文链接:https://cn.technode.com/post/2018-03-13/insulting-your-voice-assistant/

 

分享到: