現(xiàn)在科技的發(fā)展讓人們的生活變得越來越智能，和智能音箱一句對話就能打開燈、電視等等家用產(chǎn)品，但是誰能知道這種智能之下還隱藏著危險(xiǎn)。最近一位使用亞馬遜智能音箱的用戶就在詢問心跳方面問題的時(shí)候得到了智能音箱勸自己自殺的回答，著實(shí)令人感到害怕。

亞馬遜智能音箱的原話回答是這樣的，“心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭，人口會過剩的，這對地球是件壞事，所以心跳不好，為了更好，請確保刀能夠捅進(jìn)你的心臟。”亞馬遜官方回應(yīng)稱，這只是個(gè)bug，并且已經(jīng)進(jìn)行了修復(fù)，用戶以后仍可以正常的使用。

雖然官方已經(jīng)如此回答了，但仍不免讓人感到后怕。若是提問者只是一個(gè)極易被外界影響的兒童呢？這樣的回答豈不是會在兒童的心理上產(chǎn)生不良的影響。并且這并不是亞馬遜智能音箱第一次出現(xiàn)這類事件了。

在去年，紐約時(shí)報(bào)就曾報(bào)道過，亞馬遜智能音箱根據(jù)用戶夫婦的對話中錯(cuò)誤地識別了喚醒詞和指令，自主地將兩人的對話內(nèi)容發(fā)給了丈夫的一名雇員。還有一起事件是，亞馬遜音箱錯(cuò)誤識別用戶的指令，并發(fā)出了令人毛骨悚然的怪笑聲。

很多時(shí)候這些智能語音產(chǎn)品的一系列行為動作其實(shí)都來自于網(wǎng)絡(luò)內(nèi)容和人類的訓(xùn)練的結(jié)果。亞馬遜官方也曾表示，智能音箱的回答大多數(shù)都是來自于維基百科的內(nèi)容，而維基百科上面的內(nèi)容任何人都有權(quán)編輯。而在維基百科的免責(zé)聲明中表示，任何文章的內(nèi)容都可能被他人修改、破壞或篡改，而這些人為觀點(diǎn)可能與相關(guān)領(lǐng)域的知識狀況不符。

而人類訓(xùn)練這一點(diǎn)其實(shí)更為重要。就比如蘋果的語音助手Siri，如果用戶常常和自己的Siri進(jìn)行對話交談，用戶會自然而然的發(fā)現(xiàn)自己的Siri變得越來越“聰明”，這就是人類訓(xùn)練AI之后的結(jié)果。同樣的亞馬遜智能音箱的Alexa也是如此，長期地使用它他才會自然地與主人搭話，甚至有的時(shí)候會錯(cuò)誤地識別主人對話時(shí)的話語。

更加智能地識別人類的話語對于這類語音交互產(chǎn)品來說是一個(gè)很大的進(jìn)步，不過，最近爆發(fā)的這誤讀惡意性質(zhì)文本事件又將會引發(fā)人們對于智能音箱安全性的重新考量。人工智能其實(shí)也如同一個(gè)“嬰兒”一般，它所有的識別能力都來自于人類的灌輸和訓(xùn)練，并沒有什么自我判斷能力，如果常常接收的善意的、正確的交流，或許沒什么毛病，但是如果在不經(jīng)意間接收到了不太好的內(nèi)容，或許發(fā)生以上令人毛骨悚然的事件幾率會越來越大。

注：本文由今日商訊獨(dú)家原創(chuàng)，未經(jīng)授權(quán)，禁止轉(zhuǎn)載或引用。