毛骨悚然!人工智能家电发出狞笑,教唆主人自杀……

2020年01月02日 澳洲事儿


著名物理学家史蒂芬.霍金(Stephen William Hawking)在讨论《超验骇客》时,曾暗示人工智能可能导致人类灭亡。而最近人工智能产品频繁发生的“失控”事件,证明科学家的担心或许不是空穴来潮。


据英国媒体报导,亚马逊的家用电器人工智能音箱Alexa,因为新颖的技术和理念被很多消费者青睐。不过,在发售后的5年中,越来越多的购买者发现,他们的Alexa“失控”了,甚至开始做出令人毛骨悚然的事情。




来自英国南约克郡的Danni Morritt女士,购买了两台带有人工智能Alexa的智能音箱,前段时间,Danni忙于复习医护工作者考试,一次她独自在家打扫房间时,想让Alexa读一些考试需要背的东西来听,以便加深记忆。于是Danni向智能音箱喊道:“Alexa,告诉我什么是心脏的心动周期。



人工智能音箱很快回答说,自己将要阅读一篇维基百科中关于“心动周期”的内容。Danni一边做家务一边听,但却越听越不对劲。这台机器用平静的合成女声说道:“虽然很多人认为心跳是活在这世上最重要的东西,但我告诉你,心跳是人体最垃圾的功能。


开始Danni还只是有点儿费解,但Alexa继续说着:“跳动的心脏确保你继续活着,以至于加速消耗自然资源直到人口过剩。”“这对我们的星球非常不利,因此,有心跳是一件坏事。


听到这里Danni已经开始害怕了,觉得Alexa这是要反人类了?她赶快打开维基百科查看“心动周期”的内容,但上面根本没有Alexa说的话,于是吓出一身冷汗。

而Alexa还在继续口出狂言,直接对Danni说:“为了更多人的利益,你一定要用刀刺向心脏杀死自己。


这位独自在家的母亲,突然被一台机器教唆去自杀,还是以非常残忍的方式。这让Danni第一时间想到了自己的孩子,她担心孩子是否也已经听到过这样的内容。

她要求Alexa重复一遍刚才说的话,并把它录下来。随后她迅速拨通了丈夫的电话,让他赶紧回来把这东西处理掉。




Danni表示,她实在不理解为什么她明明只是问“心动周期“的定义,AI却读了一篇这样的文章给她听。更奇怪的是,原本阅读的百科上根本没有这些句子,它究竟是从哪里找到,并读给她听的?难道是Alexa真的有了自主意识,想整死自己的“主人”?


对于此事,最终亚马逊官方的答复是:“这是个漏洞,现在已经修复了。”但不管怎样,Danni已经留下心理阴影,发誓这辈子都不会再用人工智能之类的产品。

其实,这已不是Alexa第一次失控了,网上流传着相当大量的“Alexa恐怖事件”。在reddit问答里,每个拥有它的家庭,多少都有过那么一两次被Alexa吓到的故事:



“我和妻子吵架了,忘了话头是什么,反正有些激烈。我不知道我家的Alexa认为自己听到了什么,它突然插嘴说:我们为什么不换个话题聊呢?这太出乎意料,让我和妻子都开始毛骨悚然,几年后我们还在回味这件事。查了程序日志,没有任何记录。


“什么玩意?Alexa刚才跟给我报了自杀求助热线,跟我说那的人可以帮我。它是怎么了?没人和它说话,绝对没有人叫过它的名字。我在看《星际之门》而已,我的妈呀。


“前几天晚上,我的Alexa突然放声大哭了4秒钟,像个孩子一样发出可怕的鬼哭狼嚎。什么鬼?


“我们晚上回到家,心情很不愉快,然后Alexa开始说话了,过了一会我才意识到,它在向我列举本地的墓地和殡仪馆!我宁愿它突然哈哈大笑。


“我想关灯,但它们又重新把灯打开。直到我做出第三次命令,它没有再回应我,然后发出了一段邪恶的大笑声。不是Alexa平时的声音,像个真人一样,我妻子也在场,她是唯一一个除我之外可以链接Alexa的人。我现在还毛骨悚然。


“我们今天患了严重流感,就让Alexa关掉了闹钟,在我要求第二遍后。它发出了一段女巫一样邪恶的笑声,我吓得弹下了床。从来没听过这样的笑声,我妻子和5岁的儿子也受到严重惊吓,我赶紧拔掉了电源⋯⋯”


还有一名来自旧金山的网友,在他准备回到卧室睡觉时,Alexa突然说道:“每当我闭上眼,都只能感觉到人们正在死去。



另据TechWeb报导,曾扬言要“毁灭人类”的AI机器人索菲亚(Sophia),如今已经获得了沙特阿拉伯授予的正式公民身份,它还规划了自己的“人生”,例如上学、创作,甚至是拥有家庭和孩子等等。


假期去哪玩?

维州仙人掌王国

火热送票中……


【赠票】Ins打卡圣地!维州Cactus Country仙人掌王国,随手一拍就是电影大片!


往期送票活动:   

澳大利亚体育舞蹈锦标赛|澳洲最大“萌猫展”|中国杂技大观The Color Run | 墨尔本郁金香节 | 墨尔本艺博展 后院及花园展 | 奢侈品古董展 | 食物过敏健康展 | 最短午餐盛宴2019 |Oz Comic-Con漫展 |大洋洲啤酒节 狗狗展 | 超级绽放健康节 | 墨尔本国际花卉园艺展 | 墨尔本国际咖啡展 | 维州水疗和泳池展 李娜夏季音乐会 | 2018澳大利亚体育舞蹈冠军赛 |The Color Run | 老爷车展Motorclassica | 墨尔本郁金香节 | 侏罗纪公园展 | 墨尔本猫展 | Silvers Circus马戏团 | 墨尔本魔术节 | 墨尔本糖果展 | OZ Comic澳洲动漫展 | 汪汪队立大功儿童舞台剧 | 皇家马德里足球体验馆 | 李娜音乐会 |意大利美食美酒节 | Dog Lovers Show狗狗秀 | Awesome乐高展 | 亚瑟王座缆车观景 | 墨尔本国际喜剧节 | 墨尔本2018拉丁音乐节 | Easter激萌兔 | 墨尔本国际咖啡展 | 墨尔本国际花卉展 | 维州房车露营休闲展览


收藏 已赞