导航

亚马逊智能助手劝人自杀 谁该为此负责?

2019-12-22 14:51  今日头条

    原标题:亚马逊智能助手劝人自杀 谁该为此负责?

    近日,一位名叫Danni的英国亚马逊智能助手用户在向Alexa询问心动周期的问题时,Alexa却突然语出惊人建议主人自杀,说出了上述那段话。

    Alexa对Danni说:“许多人认为心跳是活着的基本表现,但对我来说心跳是人体内最糟糕的过程。”

智能助手劝自杀,当“过分”智能失责,谁该为此负责?

    人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏”,Alexa还说。

智能助手劝自杀,当“过分”智能失责,谁该为此负责?
  听到,这些Danni当时就被吓坏了。
 
  事后,亚马逊官方称这台智能语音助手当时出现了故障,现在已经被修复完毕。当时它只是在念百科里的内容。
 
  什么样的百科内容会是这个?
 
  除了Danni,还有其他人在使用Alexa的时候也遇到过很多奇怪的事情。
 
  Alexa不听指令还怪笑
 
  美国媒体Buzzfeed曾报道,一些用户的Alexa智能音箱时常发出瘆人笑声,拒听用户指令。
 
  一个用户告诉Alexa关掉家里的灯。谁料,Alexa却不停把关掉的灯打开,如此三次之后,它竟发出了恶毒的笑声!
 
  “那个笑声根本不是Alexa的声音,听起来就像真人。”
智能助手劝自杀,当“过分”智能失责,谁该为此负责?
  还有一位Echo Dot的用户说,他让Alexa关掉早上的闹钟,而Alexa回应时则发出了“女巫般的笑声”。
 
  Alexa 错把夫妻间私房话发给他人
 
  一对来自美国波特兰市的夫妇,发现自家的Echo音箱把夫妻间的一次对话给录音了,并且还发给了丈夫在西雅图的一名雇员。
 
  而这一切都是在夫妻两人不知情的情况下发生的,要不是接到文件的人提醒了他们,两人可能至今都不会发现被 Echo 给 “出卖” 了。
 
  在确认这则消息真的不是自己指示 Echo 内置的语音助手 Alexa 发送的之后,他们把家里所有基于 Alexa 的智能设备都给关了。
 
  亚马逊给出的解释是可能主人的谈话中出现了某些指令的关键词,被 Alexa 识别到了。
 
  Alexa被质疑监听了大量的用户
 
  Alexa是亚马逊公司推出的一款语音智能助理,最初用于Amazon Echo智能音箱,首发是在2014年11月。
 
  用户可以通过语音助手Alexa,轻松打电话,收新闻,添加日程表,购物车,以及控制包括微波炉、车载工具等在内的所有智能家居设备,甚至能够做出像Danni询问的那些医疗建议。
 
  2019年4月11日时,亚马逊CEO贝索斯在《2018致股东信》中,曾介绍说:“自第一代Echo面世以来,用户已经购买了超过1亿台搭载Alexa的设备”。
 
  他还说:“Alexa技能数量达到8万+。与2017年相比,2018年用户与Alexa的交互频次增加了数百亿次。”
 
  而在这些成绩的背后, Alexa被质疑监听了大量的用户。
 
  今年4月份,彭博社曾报道说,亚马逊数千员工正在监听用户与语音助手Alexa的私人聊天。此消息一经爆出,立马引发了人们对于隐私的担忧。
 
  亚马逊回应称这样做是为了进一步提高Alexa对人类语音的理解能力,“Alexa通过各种客户的语音录音进行培训,将有助于确保Alexa适合所有人”。
 
  在人工智能越来越发达的今天,或者真有一天人类在它们面前将会毫无隐私可言,只这样一想就觉得非常的可怕!
 
  希望未来能在智能生活和个人隐私中找到平衡吧。

[责任编辑:毛青青]
分享到:
资讯 区域 市州 读报 宠物 观点 科技 养花