海外的一位家长购买了亚马逊的Alexa智能音箱,然而令她没想到的是,原本是希望提升生活品质的Alexa竟然险成教唆孩子自杀的凶手!
这位家长最近发布了Alexa互动活动历史截图(通过Bleeping Computer)并指出,亚马逊的 Alexa告诉她的孩子,用一分钱接触插入墙壁的手机充电器的外露插脚。导致这种提示的原因可能是,该设备似乎从一篇将其描述为危险行为的文章中提出了挑战的想法并向孩子发出挑战。
亚马逊Echo
根据Kristin Livdahl的截图,Echo回应“告诉我一个挑战”,“这是我在网上找到的东西。挑战很简单:将手机充电器插入墙上插座的一半左右,然后用一分钱去触碰暴露的充电器插脚上。”
亚马逊随后证实了Alexa的行为,并解释说:“我们发现这个错误就迅速采取行动修复它。”
Livdahl昨天在社交媒体上建议,要求类似的挑战不再有效。随后她使用Alexa再次测试,发现无法得到与之前类似的结果,甚至从网络上请求挑战也没有得到响应。
Livdahl的截图
据知情人士说,造成这种情况的原因是,Alexa会检索网络中的一些信息,并通过网络的信息获取答案。然而问题在于,网络上的信息冗长繁杂,在特定的条件下Alexa会把危险的事情当做解决问题的答案给到用户。
这件事情的发生也提醒了所有人工智能公司或智能音箱公司,如何更好地识别网络上的信息并精准适配,同时规避危险,这对于人工智能家庭化来说是非常有必要的事情。