Alexa“监听门”用户隐私与科技发展总有一个要牺牲

从2014年Echo推出至今,亚马逊的Alexa在智能语音助手领域仍是打遍天下无敌,遥遥领先其他企业的相关产品。在很大程度上,这取决于它所拥有的数万项技能,而且,它的技能还在不断更新拓展。仅在本月中旬,Alexa的技能库里就新增了“测血压”、“解答护照和银行假期相关问题”的技能。

然而,在用户毫无戒备之心地享受Alexa带来便利的同时,一些工作正在秘密地进行。

就在大家以为人工监听事件快要过去的时候,彭博社在本周三又放出了一颗炸弹:Alexa背后的评审员可以获知用户的家庭地址,甚至包括姓名和电话号码。如果用户选择与Alexa共享自己的联系人,这些联系人的相关信息也会出现在评审员的操作界面。

毫无疑问,Alexa是亚马逊所推出的最具影响力的产品之一,而且,它已经列入亚马逊帝国的四大支柱。随着Echo走进越来越多的家庭,Alexa也对人们的生活产生着深刻影响。

语音助手还无法脱离人类独立工作

雷锋网版权文章,。详情见转载须知。

我们潜意识里认为语音助手在进行神奇的机器学习。但实际上,它们还无法脱离人类独立工作。

然而,消费者真正在意的是,在享受科技带来便利的同时,他们有没有被诚实地对待,自己的隐私有没有得到尊重。身为大公司的亚马逊应该深知隐私保护的重要性,但是,至少从眼下看来,它做的还不够好。

对于这起“灵异事件”,亚马逊官方出的解释是,Alexa会将环境中的噪音错认为短语“Alexa,笑一个”(“Alexa,laugh”)。随后,亚马逊紧急修复了这个bug,将原先简短的指令改为了“Alexa,你能笑一个吗?”(Alexa,can you laugh?),并且,更新后的Alexa在听到指令后会进行回复,而不是直接大笑。

亚马逊之所以收集位置数据,是为了更准确地为用户服务,比如建议当地的餐厅,或者提供天气预报。而且,评审员在入职之前都签订了保密协议,不会透露项目相关的任何内容。

一位网友在推特上说道:

在彭博社爆料之后,亚马逊发言人发表了声明,大概是说:

对于亚马逊的各种风波,该领域的专家Schaub并没有感到惊讶,他说道:

然而,就目前而言,凭空创造出一个能够准确识别语音或人脸的神经网络几乎不可能的。因为仅凭算法,语音助手无法准确识别不同的口音、俚语、或者是其他一些带有挑战性的任务。

领域佼佼者同样有黑历史

我在厨房,Alexa莫名其妙地笑了。好恐怖,就感觉像有一个婴儿在我们身后。

密歇根大学的教授Florian Schaub是智能扬声器隐私问题方面的专家,他也对此事发表了自己的意见:

以上数据和图表似乎映射出了智能扬声器欣欣向荣的美好前景。

对于这一情况,亚马逊给出的解释是:

事情曝光之后,亚马逊也亡羊补牢,进一步限制了用户信息的访问权限。目前,一些软件已经对评审员关闭了。

本月早些时候,据彭博社披露,亚马逊公司在全世界范围内雇佣了员工(评审员)来提升Alexa的服务功能,然而,这个巨大团队并不负责技术改进,而是负责收集用户对Alexa发出的指令,并作出相应的反馈。参与该项目的评审员从波士顿到哥斯达黎加,从印度到罗马尼亚,总之遍布全球。

很多时候,AI的背后是人类而不是算法,因为建立一个良好的AI系统需要大量数据。但是,作为心理学家,我认为,这种欺骗行为显然违反了道德原则。

如图所示,自2012年以来,亚马逊的公众声誉一直名列前茅。然而,即便是公众心中口碑最佳的亚马逊也曾有过黑历史。实际上,本月彭博社的两次曝光并不是Alexa第一次处在舆论的风口浪尖。

这件事是否属于隐私问题,取决于亚马逊对待这些信息的谨慎程度,以及向他人呈现的方式。

心理学家Alison Darcy在接受《卫报》采访时说道,

雷锋网(公众号:雷锋网)获悉,位置数据会以地理坐标的形式提供给评审员,他们只要将坐标数据输入地图软件,就能轻松获得用户的具体地址。如果用户外出时使用Alexa,他/她的实时定位也有可能被追踪。

10家中介机构为北京慧家房地产经纪有限公司、北京力田融信房地产经纪有限公司、华融盛业房地产经纪(北京)有限公司、北京东方家业房地产经纪有限公司、北京潞通乐居房地产经纪有限公司、北京锐联房地产经纪有限公司、北京市中弘百易房地产经纪有限公司、北京万家鼎盛房地产经纪有限公司、北京安晔居房地产经纪有限公司、北京佳润房地产经纪有限公司。

这是一个非常极端的例子,我们也在努力降低错误识别率,尽量减少此类事故的出现。

两位知情人士向彭博社透露:

此前,亚马逊声称公司员工无法获取用户信息(上文已提及),然而这一事实与之相悖。

据悉,评审员每天工作9个小时,要分析上千条录音。如此大规模、高强度地分析(监听),评审员难免会听到非常隐私的声音。有两名知情人甚至表示,他们确信自己通过Alexa听到了性侵事件,当他们向亚马逊公司寻求指导意见,却吃了闭门羹。

亚马逊官方发言人也承认:

虽然,现在还没有迹象表明,评审员试图利用这些信息来追踪用户,但是,人们还是担心这种不必要的访问权限会让情况失控。

除了怪笑事件,2018年,亚马逊还陷入了隐私泄露的丑闻。当时,Alexa录下一段私人对话,未经用户同意就发送了出去,这起事件再次引起了公愤。

实际上,人类参与训练语音助手并没有什么错。为了让语音助手提供更好、更准确的服务,人工的帮助是必不可少的因素。

据介绍,近期市住建委执法部门联合朝阳房管局、海淀房管局、丰台房管局、昌平住建委继续开展房源合规性检查,线上线下联动,从主流互联网平台抽取房源信息现场实地逐项比对核实。经查处发现,有10家房地产经纪机构存在违规发布房源信息的行为,违反了《房地产经纪管理办法》规定。目前,市区住建(房管)执法部门已立案查处,并要求主流互联网平台下架其发布的全部房源信息。

去年2月底,陆续有多名用户在Twitter和Reddit上表示,自己家内含Alexa的智能设备会突然爆发邪恶的笑声,令人毛骨悚然。

亚马逊十分注重客户的隐私安全。我们收集用户对Alexa的指令,是为了更好地训练语言识别系统和自然语言处理系统,以便于改善用户体验。目前,亚马逊已有严格的技术和措施来保护用户的个人信息,即便是公司的员工也无权访问。

躺在床上准备睡觉,Echo里的Alexa突然爆发惊悚的笑声。。。我怕是活不过今晚了。

当然,亚马逊并不是唯一一家做类似事情的公司。去年,《卫报》报道了“伪人工智能”(pseudo-AI)的兴起,文中列举了一些人类顶替AI完成工作的科技公司,其中就包括Facebook、亚马逊、谷歌和苹果等科技巨头。

亚马逊雇佣大量员工监听Alexa录音

亚马逊不得不出面回复,它首先声明自己没有窃听用户的对话,然后指出,此次事件的起因是Alexa被错误地唤醒,和怪笑事件的起因如出一辙。值得注意的是,如果亚马逊的解释成立,那么,Alexa至少要错误识别4次,才能够将录音发送给别人。

然而,无论是在营销过程中,还是在公司的隐私政策中,亚马逊从来都没有明确表示,他们雇佣了评审员来实时监听Alexa的录音。而且,即便是用户禁用了Alexa的语音记录功能,这些用户的语音记录还是会传送给评审员进行分析。

姓名、电话号码、家庭地址不保

研究机构Canalys的数据显示,去年全球共销售7,800万个智能扬声器,其中,亚马逊的销售量大约占三分之一(图1)。Canalys预计,到2020年,智能扬声器的使用量会在2018年的1亿基础上再翻一番,达到2.25亿(图2)。