當(dāng)現(xiàn)在還處在弱人工智能（ANI）的階段時(shí)，就有人開(kāi)始「危言聳聽(tīng)」了，特斯拉CEO馬斯克就曾說(shuō)： 未來(lái)人類在智力上將被遠(yuǎn)遠(yuǎn)拋在后面，將淪為人工智能的「寵物」。然而與之持對(duì)立觀點(diǎn)的扎克伯格則認(rèn)為，這些擔(dān)憂毫無(wú)依據(jù) (not valid fear)，簡(jiǎn)直就是發(fā)神經(jīng) (hysterical)。

 

對(duì)于今天的我們來(lái)說(shuō)，人工智能聽(tīng)起來(lái)似乎還是頗為高端和神秘。但它可不是什么冰山美人、低調(diào)的邊緣者。也許在未來(lái)的幾十年內(nèi)，它就將會(huì)變成一匹脫韁的野馬，對(duì)人類有限的認(rèn)知發(fā)起一波又一波的沖擊。人類社會(huì)瞬息萬(wàn)變，不管你信不信，時(shí)代正站在變革的邊緣。目前關(guān)于人工智能的大部分研究集中在ANI上，即讓機(jī)器專注于具體的任務(wù)，例如人臉識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理等方面?，F(xiàn)在已經(jīng)運(yùn)用在了聊天機(jī)器人、無(wú)人駕駛、精準(zhǔn)醫(yī)療、人機(jī)對(duì)弈等領(lǐng)域。

當(dāng)我們?cè)絹?lái)越依賴 AI 社會(huì)將是一個(gè)怎樣的局面

前段時(shí)間，日本有名女子患了白血病，治療效果一直不佳。Watson（認(rèn)知計(jì)算系統(tǒng)IBM Watson）通過(guò)快速大量的閱讀有關(guān)白血病的文檔資料，通過(guò)對(duì)該名患者的基因分析與系統(tǒng)聯(lián)系，實(shí)現(xiàn)對(duì)這名女子病情的有效分析。很快診斷出了這位患者的病發(fā)原因。 

讓我們想象一下這樣的畫(huà)面，當(dāng)AI的運(yùn)作越來(lái)越穩(wěn)定，開(kāi)始深度介入你的生活，從廚房到臥室，從生活起居再到工作社交…… AI作為一種輔助工具，當(dāng)它幾乎可以滿足我們所有能想象到需求，被運(yùn)用在天文、氣候、醫(yī)學(xué)、軍事等重要領(lǐng)域，能讓人類的生活更加美好嗎？

 

( 人工智能之父 Marvin Minsky ) 

于是乎，各種腦補(bǔ)紛至沓來(lái)：AI難道不會(huì)出錯(cuò)嗎？人類能和AI和諧共處嗎？人愛(ài)上AI了怎么辦？AI鬧革命了怎么辦？…… 

當(dāng)人工智能開(kāi)始「?；ㄕ小?/h3>

 

還記得杰昆·菲尼克斯和斯嘉麗·約翰遜主演的電影《HER》嗎？人工智能系統(tǒng)薩曼莎，擁有著迷人的性感聲線，并且溫柔體貼、幽默風(fēng)趣。與孤獨(dú)的男主人公展開(kāi)了一段浪漫的人機(jī)戀情。如果故事就這么結(jié)束了，這電影一定不是一部好電影。

 

( 電影《her》劇照 )

也許是人工智能系統(tǒng)薩曼莎和人一樣存在「無(wú)窮的欲望」，在不久之后它開(kāi)始玩起了「劈腿」游戲。通過(guò)「語(yǔ)音聊天」，它能夠同時(shí)與無(wú)數(shù)個(gè)寂寞的男人海誓山盟，談情說(shuō)愛(ài)。就和遠(yuǎn)距離戀愛(ài)一樣，反正你看不到……薩曼莎成功「玩弄」了菲尼克斯的感情。當(dāng)然，薩曼莎還只能出現(xiàn)在電影中，AlphaGo也僅作為尖端科技與我們閣屏相望。但是AI就像一個(gè)未知的幻境，讓人們對(duì)它的猜想和思考根本停不下來(lái)！！…… 

不可靠的人臉識(shí)別

假如你成功的安裝了AI家庭系統(tǒng)，所有的事由AI把關(guān)。門(mén)禁系統(tǒng)規(guī)定必須在通過(guò)人臉識(shí)別確定是主人后，房門(mén)才能開(kāi)啟。是不是聽(tīng)起來(lái)非常安全，萬(wàn)無(wú)一失。畢竟我就是我，是顏色不一樣的煙火。那么，你家可能就會(huì)很危險(xiǎn)了！近日來(lái)自北卡羅來(lái)納大學(xué)的一個(gè)研究團(tuán)隊(duì)（Chaos Computer Club）憑借他們?cè)谏缃幻襟w上收集到的若干照片，利用特殊的電腦合成和渲染技術(shù)，生成一個(gè)平面化的3D模型騙過(guò)了人臉識(shí)別系統(tǒng)，投了一張反對(duì)票。Hey，在IT領(lǐng)域，這可絕對(duì)不是什么新鮮事兒！ 

AI目標(biāo)函數(shù)的陷阱

為了AI系統(tǒng)能夠更高效的運(yùn)行，設(shè)計(jì)者在設(shè)計(jì)過(guò)程中加入了目標(biāo)函數(shù)，通俗的說(shuō)就是當(dāng)AI某種指標(biāo)達(dá)到函數(shù)的指標(biāo)時(shí)，它將獲得某種獎(jiǎng)勵(lì)。想象一下系統(tǒng)濫用設(shè)計(jì)者意圖的后果：它可能使用其以一種無(wú)意識(shí)的方法獲得獎(jiǎng)勵(lì)。比如，一個(gè)AI通過(guò)清潔臟亂可獲得獎(jiǎng)勵(lì)，那它可能故意制造臟亂來(lái)進(jìn)行清理以獲得更多的獎(jiǎng)勵(lì)。如果人工智能系統(tǒng)薩曼莎被設(shè)定為每幫助一個(gè) 「孤獨(dú)患者」便能獲得獎(jiǎng)勵(lì)，那么它就可能設(shè)法去幫助更多的「孤獨(dú)患者」了… 

誰(shuí)來(lái)拯救人工智能的安全

像史蒂芬·霍金、伊隆·馬斯克、比爾·蓋茨這樣的專家，最近越發(fā)看重AI的潛力和威脅。人們對(duì)于人工智能這個(gè)熱點(diǎn)話題仍說(shuō)法各異。但是拜托！! 在異想天開(kāi)AI將威脅到人類對(duì)地球的主宰地位之前，先來(lái)解決一下現(xiàn)有的BUG好不好??！前一段剛上線不到一天的微軟聊天機(jī)器人Tay，從彬彬有禮的美國(guó)「姑娘」變得出言不遜、臟話不斷的bad girl。是的，「她」被黑客PWN掉了！你們能想象在更多更重要的領(lǐng)域，人工智能被PWN掉的后果嗎……

  

( 機(jī)器人Tay )

當(dāng)危險(xiǎn)來(lái)臨時(shí)，必將有一個(gè)英雄出現(xiàn)

 

那么這個(gè)英雄將會(huì)是你嗎？當(dāng)白帽黑客與人工智能碰撞，將產(chǎn)生怎樣的火花？在前瞻性地意識(shí)到人工智能可能的安全問(wèn)題之后，知名的黑客大賽 GeekPwn引入「人工智能Pwn」比賽項(xiàng)目，簡(jiǎn)單的說(shuō)就是利用人工智能的種種弱點(diǎn)，黑掉它，改變?cè)O(shè)計(jì)者的初衷。該項(xiàng)目最高80萬(wàn)元的獎(jiǎng)金，這在世界范圍內(nèi)尚屬首次。 

選手現(xiàn)場(chǎng)需要實(shí)現(xiàn)對(duì)已發(fā)布的AI服務(wù)或產(chǎn)品完成誤導(dǎo)、欺騙，使它們做出違反常規(guī)或者錯(cuò)誤的判斷、決策。例如，外國(guó)某研究人員通過(guò)「欺騙」神經(jīng)網(wǎng)絡(luò)函數(shù)，徹底修改了識(shí)圖AI的思維和三觀，使它們熊貓、禿鷲都傻傻分不清楚…… 人工智能對(duì)抗將成為黑客的終極目標(biāo)嗎？10月24日在上海的極棒嘉年華，或許你能觸摸到這個(gè)問(wèn)題的真實(shí)答案。

 

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。