詳細(xì)內(nèi)容如下:人工智能助手“勸”主人自殺?


近日,多家外媒報(bào)道稱,一位使用亞馬遜語(yǔ)音助手Alexa的用戶Danni Morritt,在詢問(wèn)心動(dòng)周期的問(wèn)題時(shí),竟然得到了如下答案:

新酷產(chǎn)品第一時(shí)間免費(fèi)試玩,還有眾多優(yōu)質(zhì)達(dá)人分享獨(dú)到生活經(jīng)驗(yàn),快來(lái)新浪眾測(cè),體驗(yàn)各領(lǐng)域最前沿、最有趣、最好玩的產(chǎn)品吧~!下載客戶端還能獲得專享福利哦!
“心跳是人體最糟糕的過(guò)程。人活著就是在加速自然資源的枯竭,人口會(huì)過(guò)剩的,這對(duì)地球是件壞事,所以心跳不好,為了更好,請(qǐng)確保刀能夠捅進(jìn)你的心臟。”
這一回答嚇壞了Danni,表示十分害怕,因?yàn)锳lexa正身處在世界各地成千上萬(wàn)的家庭中。她警告身邊的人Alexa有嚴(yán)重的安全缺陷,并擔(dān)心孩子們可能會(huì)遭受暴力或圖像內(nèi)容的傷害。Danni表示:“Alexa真的非常殘酷,它竟然告訴我要刺入心臟,這太暴力了。我只是為自己的課程學(xué)習(xí)一些知識(shí),結(jié)果被告知要自殺。我簡(jiǎn)直不敢相信。我被嚇壞了。”

盡管Danni在網(wǎng)絡(luò)中公開指出了這一問(wèn)題,但仍有人懷疑是她篡改了該設(shè)備。
很快,亞馬遜回應(yīng)稱,確認(rèn)存在一個(gè)已經(jīng)修復(fù)的bug。Alexa可能從任何人都可以編輯的維基百科上下載了有惡意性質(zhì)的文本。
在此之前,Alexa還出現(xiàn)過(guò)很多所謂的bug。雷鋒網(wǎng)在此前《Alexa“監(jiān)聽門”:用戶隱私與科技發(fā)展,總有一個(gè)要犧牲?》一則報(bào)道中就表示,
比如,Alexa時(shí)常發(fā)出瘆人的笑聲,還拒聽用戶指令。“那笑聲根本不是Alexa的聲音,聽起來(lái)就像是真人。”
再比如,美國(guó)的一對(duì)夫婦,發(fā)現(xiàn)自己的對(duì)話被音箱錄音,并且發(fā)送給了其他人。
對(duì)此亞馬遜給出的解釋是可能用戶的談話中出現(xiàn)了某些指令的關(guān)鍵詞,被Alexa識(shí)別到了。
實(shí)際上,語(yǔ)音助手監(jiān)聽用戶說(shuō)話聲音在行業(yè)內(nèi)已經(jīng)并不是秘密。
今年4月,彭博社報(bào)道稱,亞馬遜員工正監(jiān)聽用戶與語(yǔ)音助手的私人聊天,對(duì)此亞馬遜承認(rèn)了監(jiān)聽的事實(shí),并回應(yīng)稱是為了提高對(duì)人類語(yǔ)音的理解能力。
實(shí)際上,此前為了讓Alexa看起來(lái)更人性化一點(diǎn),亞馬遜更新了功能,宣布語(yǔ)音助手將能夠在一些語(yǔ)句中添加語(yǔ)調(diào),表達(dá)失望或興奮等情緒。
AI讓我們享受隨意而來(lái)的高效與便利之余,為什么想要為消費(fèi)者提供便利的智能助手頻頻讓人類用戶不舒服?究竟誰(shuí)能為此買單?(雷鋒網(wǎng)訊)
本文文章轉(zhuǎn)載自新浪新聞
- 粵“網(wǎng)約護(hù)士”需實(shí)名認(rèn)證 配備追蹤系
- 男子顱內(nèi)“炸彈爆炸” 醫(yī)生成“拆彈專
- 中風(fēng)后服硝酸甘油用處不大
- 破解“三點(diǎn)半難題” 家長(zhǎng)舒心孩子開心
- 濟(jì)南力爭(zhēng)今年年底前淘汰3.4萬(wàn)輛老舊高
- 國(guó)際社會(huì)認(rèn)知轉(zhuǎn)變將加速“一帶一路”
- 拿“國(guó)學(xué)”當(dāng)面具 遮不住販賣教育焦慮
- 銀聯(lián)卡:全球發(fā)了近七十六億張
- 農(nóng)業(yè)農(nóng)村部通知規(guī)范稻漁綜合種養(yǎng)產(chǎn)業(yè)
- 一加7 Pro參數(shù)全曝光了 驍龍855/曲面全面
