2
雷鋒網(wǎng)按：馬斯克不是一個沒有想象力的人，對于未來，他總是有自己獨一無二的看法，而且樂意下賭注，但硅谷最近快速奔向人工智能的動作卻嚇到了他，同時馬斯克認為大家對硅谷的動作也應(yīng)該心存戒懼。于是馬斯克開始了自己的“十字軍東征”（創(chuàng)建 NeuraLink），并希望通過自己的行動將人們從機器人的統(tǒng)治中“解放”出來。通過這篇《名利場》的深度報道，我們能一窺硅谷鋼鐵俠在阻止 AI 毀滅人類上付出的努力和他對 AI 深深的恐懼。本文由雷鋒網(wǎng)編譯自 VanityFair。
作為一個末世論者，馬斯克擔(dān)心 AI 崛起，但憑借 AlphaGo 一戰(zhàn)成名的 DeepMind 創(chuàng)始人Demis Hassabis 則無疑是 AI 的支持者，兩人雖然意見相左，但多年前就是老相識了，關(guān)于人類未來命運的問題，他們也曾有過深入的交談。
這兩位大神級的人物雖然都崛起于硅谷，但他們并不在這居住。幾年前，Hassabis 曾造訪過洛杉磯郊外的 SpaceX 火箭工廠。在餐廳，兩人交談甚歡，從巨大的落地窗中，還能看到 SpaceX 引以為豪的巨型火箭。當(dāng)時，馬斯克就闡述了自己創(chuàng)立 SpaceX 的終極目標：星際殖民。馬斯克也自豪地認為，這是世界上最重要的項目。
當(dāng)時的 Hassabis 躊躇滿志，他也在做著另一項世界最重要項目：開發(fā)超級人工智能。馬斯克顯得有些不屑一顧，他認為如果不殖民火星，一旦 AI 崛起人類連躲的地方都沒有。Hassabis 則打趣稱，AI 會跟著人類去火星的。
Hassabis 的說法不但沒有化解馬斯克的焦慮，還讓他更加擔(dān)心了。
Hassabis 現(xiàn)年 40 歲，他非常謙遜但競爭力十足。在外界眼中，Hassabis 是 AI 界的梅林，這位魔術(shù)師將為世界召喚出無數(shù) AI 子孫。
當(dāng)然，AI 要走的路還很長，至少當(dāng)下不應(yīng)該成為讓馬斯克失眠的噩夢。眼下，F(xiàn)acebook 利用 AI 來做精準廣告投送、為照片貼標簽和策劃新聞；微軟和蘋果則用 AI 來驅(qū)動 Cortana 和Siri；谷歌則開始將 AI 當(dāng)作整個搜索引擎的基礎(chǔ)。這一切都是未來“全知全能”AI 的預(yù)演。
在硅谷，Hassabis 出名原本是因為他棋藝高超，而且做過一款名為《邪惡天才》的游戲。但現(xiàn)在情況不同了，Hassabis 成了炙手可熱的超級大紅人，從著名投資人 Peter Thiel（硅谷唯一押寶特朗普的人）的小故事中，我們就能看出 Hassabis 的重要性。據(jù)悉，在 DeepMind 的一次會議上，一位投資人打趣道：“Hassabis 就應(yīng)該就地槍斃，因為他是拯救人類最后的希望。”
三年前馬斯克就開始警告人類，稱 AI 可能變身殺人狂。就連 DeepMind 的投資人 Shane Legg 也表示：“我認為人類很有可能滅絕，而科技在其中將扮演重要角色?！?/p>
在 DeepMind 被并入谷歌之前（2014 年），馬斯克也是這家英國公司的投資人。不過，他投資 DeepMind 不是為了掙錢，而是為了時刻了解 AI 的發(fā)展軌跡。“我清楚的認識到，AI 的發(fā)展確實在加速，它比我們理解的要快得多。當(dāng)然，這可能是因為平時大家看不到機器人走來走去。你家的 Roomba 也算是機器人的一種，但它們不會占領(lǐng)世界?！瘪R斯克說道。
雖然與硅谷大佬們都是好朋友，但馬斯克依然直言不諱的表示他們已經(jīng)走上了自毀之路。在談到谷歌創(chuàng)始人拉里·佩奇時，馬斯克稱佩奇研發(fā) AI 雖然是出于好心的，但依然有可能“在不經(jīng)意間創(chuàng)造邪惡勢力，比如毀滅人類的人工智能機器人。”
在今年 2 月迪拜舉辦的的世界政府首腦會議上，馬斯克再次舊事重提，稱“一些科學(xué)家只是醉心于自己的工作，但他們并不了解自己的工作可能帶來的后果。”在馬斯克眼中，人類要想不被淘汰，“就必須實現(xiàn)生物智能與機器智能的融合?！边@種曾出現(xiàn)在《星際迷航》的想法需要所謂的“神經(jīng)織網(wǎng)”（neural lace），向人腦植入也許未來能夠上傳下載思想的微型電極?！拔覀兤鋵嵰呀?jīng)是半機械人了?！瘪R斯克說道?！澳愕氖謾C和電腦成了身體的外延，不過現(xiàn)在的交互需要通過效率低下的手指和語音來完成。”借助神經(jīng)織網(wǎng)，你就能輕松與手上的設(shè)備交換數(shù)據(jù)，同時還能借助云端超強的運算能力。同時，馬斯克認為這種新型交互在四五年內(nèi)就能成為現(xiàn)實。
三年前有了想法后，馬斯克在麻省理工的一次演講中將這些想法和盤托出，AI 成了他眼中“人類生存的最大威脅”。同時，馬斯克開始傾向于建立國家級或者世界級的監(jiān)督機構(gòu)，防止硅谷的科學(xué)家們“做傻事”。不過，在許多 AI 工程師的眼中，馬斯克的理論有些荒謬可笑，因此在回到實驗室后，他們經(jīng)常會自嘲的說道：“走，我們?nèi)フ賳緪耗О?。?/p>
不過，馬斯克散播自己的理論可不是為了過嘴癮，他真的針對 AI 搞起了自己的“十字軍東征”。
在采訪馬斯克時，筆者告訴馬斯克，他已經(jīng)是一個像安·蘭德（強調(diào)個人主義和理性的利己主義）一樣的英雄了。馬斯克笑笑說：“我以前聽過這種說法。她說話雖然有些極端，但觀點中很有料?！?/p>
不過，即使對個人奮斗看得很重，安·蘭德如果見過馬斯克肯定也會被震住，這樣努力的人居然眼睛依然熠熠放光，從外形來看也年輕依舊。同時，馬斯克的私生活也是精彩紛呈，他與自己第一人妻子共育有 5 個孩子，與第二任妻子 Talulah Riley 更是一起進了四次婚姻登記處（兩次結(jié)婚和離婚）。去年秋天當(dāng) Talulah Riley 在熱播劇《西部世界》中客串出演一個機器人角色后，馬斯克還在 Twitter 上隔空祝賀了一把。不過，即使馬斯克有心與自己愛的女人長相廝守，他也做不到，因為硅谷鋼鐵俠實在是個工作狂。
“我很想知道，男人每周到底應(yīng)該花多少時間陪女人？”馬斯克問自己的傳記作家 Ashlee Vance（彭博社記者）?！笆畟€小時夠不夠？這是不是已經(jīng)是女人忍耐的極限了？”
馬斯克就是這樣的人，他非常理性，但又愛冒險。平時除了認真的工作，他還喜歡參加化妝舞會，有時還會玩玩翼裝飛行。扮演鋼鐵俠的小羅伯特·唐尼將他看作鋼鐵俠在現(xiàn)實中的化身，而三星美國分部首席市場營銷官則稱馬斯克是“喬布斯與儒勒·凡爾納（科幻小說家）的合體”。馬斯克首任妻子回憶稱：“在婚宴上，馬斯克說自己有大男子主義。”
馬斯克在科技界也是個異類，他并非人們傳統(tǒng)認知中那種弱不禁風(fēng)，每天套著棒球帽衫探討圖片中的狗狗到底是什么品種的呆瓜極客。相反，馬斯克更像亨利·福特這樣的創(chuàng)業(yè)者，他甚至把自己公司火箭的零部件掛在了貝爾艾爾區(qū)豪宅的墻上。
馬斯克也特別擅長定大目標，借助 SpaceX 的火箭，他在不斷降低太空探索的成本，未來硅谷鋼鐵俠還要殖民火星。上個月，他還雄心勃勃的稱要送兩個游客繞月飛行，而且時間就定在明年。在能源領(lǐng)域，馬斯克則準備通過整合特斯拉和 SolarCity 完成自己的清潔能源之夢，而特斯拉電動車則憑借無懈可擊的性感設(shè)計成了許多人的夢中情人。不過，這還沒完，馬斯克還要做超級高鐵（Hyperloop），讓城際旅行不再浪費時間。去年夏天見了國防部長后，他又萌生了開發(fā)“飛行戰(zhàn)甲”的念頭，而體驗了賭成粥的洛杉磯交通后，馬斯克轉(zhuǎn)眼就萌生了挖地道的想法。
當(dāng)然，天將降大任于是人也，必先苦其心志，勞其筋骨，餓其體膚，空伐其身行，行弗亂其所為，馬斯克可沒少受挫折。他的 SpaceX 火箭在發(fā)射臺上爆炸，自動駕駛狀態(tài)的特斯拉 Model S 還把駕駛員帶進了墳?zāi)埂?/p>
馬斯克對各種挫折不屑一顧，但對噩夢情節(jié)卻總是心有余悸。他的觀點可以用安·蘭德著作《阿特拉斯聳聳肩》中的格言解釋：“人類有能力充當(dāng)自己的毀滅者，這樣的情節(jié)在歷史上反復(fù)上演。”馬斯克則認為：“人類是第一個擁有自我毀滅能力的物種。”
其實馬斯克的感覺我們大家都能感受到，當(dāng)你享受著各種新技術(shù)帶來的便利時，有時也會感覺自己是實驗室里的小白鼠，一旦喪失了利用價值，馬上就會被淘汰。許多人已經(jīng)接受了這樣的未來：人類能輕松活到 150 歲，但要接受機器的統(tǒng)治。
在去年的 Code Conference 上，馬斯克更是表示，人類可能已經(jīng)生活在類似黑客帝國的世界，我們被更先進的文明統(tǒng)治，而硅谷的億萬富翁們正準備用算法讓我們逃出矩陣。
對許多愛好不斷解決問題的工程師來說，大多數(shù)時候他們都是在重復(fù)過去，頗有些宿命論的感覺，但偶爾也能來次大躍進，而年僅 31 歲的 Y Combinator 主席 Sam Altman 則相信，人類可能即將迎來巨大機遇。
“站在指數(shù)曲線上你就會發(fā)現(xiàn)，當(dāng)你回看過去，一切都一馬平川，但你看向未來，則會看到一堵垂直的高墻。”馬斯克說道?！澳愫茈y搞清楚自己現(xiàn)在的位置，因為放眼四望，周邊環(huán)境幾乎沒有變化。”
眼下，馬斯克、霍金和蓋茨都在為 AI 威脅論搖旗吶喊，看起來 AI 對人類的威脅已經(jīng)開始火燒眉毛了。不過，在很長一段時間里，宿命論一直籠罩在硅谷上空，馬斯克的努力被認為是徒勞的，有些人甚至認為他反對 AI 就像工業(yè)革命中的工人搗毀機器。
這里有一個悖論，那就是在許多科技獨裁者眼中，他們的所作所為是為了幫助人類，但事實上他們的仁慈宣言下，其實潛藏的是一條不歸路，就像蘋果聯(lián)合創(chuàng)始人沃茲尼亞克所說，人類正在成為家養(yǎng)寵物。
不過，馬斯克不信這個邪，他要打破人類宿命，于是他聯(lián)合 Altman 創(chuàng)立了 OpenAI——一家非贏利公司，目的是開發(fā)安全的 AI 技術(shù)。剛剛成立時，OpenAI 只有幾個年輕的工程師，就連辦公室都是公司 CTO 的個人房產(chǎn)，最近筆者回訪時發(fā)現(xiàn) OpenAI 已經(jīng)搬了家，這里不但通風(fēng)，還有了其他科技公司都有的小零食，全職員工也達到了 50 人。據(jù)悉，還有 10-30 名員工即將加入 OpenAI。
在硅谷，所謂的午餐會并不一定要正襟危坐吃大餐，畢竟年輕的程序員都專注于各種算法，有時他們根本沒時間吃飯，午飯只是吃點 Soylent（粉末食品）了事，而一些年齡稍大的程序員則熱衷于吃健康食品配牛奶。
乍一看，OpenAI 簡直就是個羽量級的形象工程，一幫毛頭小伙子怎么可能管得住谷歌、Facebook 和其他世界頂級的 AI 專家。不過，馬斯克擅長以弱勝強，而且他能處理的非常得體，甚至派頭十足。
馬斯克根本不在乎什么 IPO 市值，解決舊金山無家可歸人群也不是他的任務(wù)，因為他的目光更為宏偉，比如解決全球變暖和登陸火星。
馬斯克十幾歲時就感受到了強烈的“生存危機”，他并非吃不上飯，而是擔(dān)心人類未來在宇宙中的命運。馬斯克表示是希區(qū)柯克的《銀河系漫游指南》讓他開了竅，在 Model S 的軟件中，馬斯克還植入了許多與這部神作有關(guān)的梗。當(dāng)時，馬斯克也給自己設(shè)定了奮斗使命：“真正值得追求的是爭取更偉大的集體啟蒙?！?/p>
OpenAI 剛成立時使命還非常模糊，這不難理解，畢竟 AI 圈里的人都不知道這項技術(shù)未來會以什么樣的形式呈現(xiàn)、能完成什么任務(wù)和我們能做些什么。眼下，AI 還是無主之地，關(guān)于它的公共政策和監(jiān)管還是個空白。FAA 負責(zé)監(jiān)管無人機，證券交易委員會負責(zé)監(jiān)管金融交易，而交通運輸部則將自動駕駛汽車納入了自己的監(jiān)管范圍，但 AI 依然處于三不管狀態(tài)。
馬斯克并不反對 AI 發(fā)展，但他認為該技術(shù)研發(fā)成功后應(yīng)該分發(fā)到世界各地，而不是隱藏和集中在科技與政府精英手中?！拔以啻闻c佩奇探討 AI 和機器人?！瘪R斯克說道?！安贿^，人們已經(jīng)頭腦發(fā)熱，不只是佩奇，其他未來學(xué)家也認為機器人時代的來臨必可阻擋，而在這個時代，人類將扮演次要角色。有些宿命論者甚至成人類將成為‘生物引導(dǎo)裝載程序’（Boot-loader）?！?/p>
“當(dāng)然，物質(zhì)不能直接變成芯片?！瘪R斯克解釋道?！暗鼈兛梢宰兂缮飳嶓w并最終創(chuàng)造出芯片?！?/p>
馬斯克可不想變成生物引導(dǎo)裝載程序，也許佩奇的本意是好的，但馬斯克稱硅谷精英的善意可能會帶來極壞的結(jié)果。
“皇帝和皇帝不一樣，有時執(zhí)政能力的微妙變化可能就會導(dǎo)致完全不同的結(jié)果?！瘪R斯克說道。
人工智能并不是什么新鮮名詞，上世紀 80 年代末，這項技術(shù)還遭遇過寒冬，當(dāng)時它甚至在業(yè)內(nèi)換來了“騙人的萬金油”的惡名。不過，現(xiàn)在 AI 重新成了硅谷的香餑餑。OpenAI 的 Greg Brockman 相信未來十年 AI 將占據(jù)絕對的主導(dǎo)地位，每個人都會花錢享用這個神奇的“咒語”。
微軟的計算機科學(xué)家 Jaron Lanier 是 VR 之父，他向筆者解釋了數(shù)字文人普遍將 AI 看作“科幻小說”的原因。這個原因讓人很無語，因為在外界看來，AI 技術(shù)人員就像上帝，他們可以創(chuàng)造生命，甚至改變現(xiàn)實。許多從業(yè)人員也被捧得忘記了自我，自戀的認為自己可以予取予奪，比教皇和總統(tǒng)能力都強，站上了世界的頂端?！斑@樣盲目的自信并不是第一次遇見，我在一個有關(guān)金色牛犢的故事中也讀到過?！?/p>
過去幾年，谷歌收購機器火力全開，幾乎把市場上所有有趣的機器人和機器學(xué)習(xí)公司都收歸門下。谷歌在收購戰(zhàn)中擊敗 Facebook，花 6.5 億美元買下 DeepMind，隨后它們又組建谷歌大腦團隊專攻 AI 技術(shù)的研究。同時，谷歌還挖來了英國人工神經(jīng)網(wǎng)絡(luò)專家 Geoffrey Hinton 和古怪的未來學(xué)家 Ray Kurzweil，后者稱再有 28 年我們就能迎來“奇點”，到時能實現(xiàn)自我學(xué)習(xí)的超級人工智能將徹底超越人類智能，留給人類的唯一選擇就是與 AI 合為一體，創(chuàng)造出新的“全知全能”的混血新人類。
其實谷歌和拉里·佩奇從骨子里相信，走上 AI 之路是公司不可避免的命運。Ashlee Vance 甚至表示：“如果 AI 惹出什么事，我第一個就會想到谷歌?！比绻雀枘苡秒娔X掌控整個搜索業(yè)務(wù)，那么它們就能讓電腦做成任何事。去年 3 月，來自 DeepMind 的 AlphaGo 用一盤圍棋震驚了全世界。Hassabis 表示 AlphaGo 簡直就是 AI 界的阿波羅計劃，戰(zhàn)勝李世石是個歷史性時刻，就連他自己都沒有想到 AlphaGo 能贏得如此迅速。“我一直希望 AI 能幫助我們在復(fù)雜的科學(xué)領(lǐng)域發(fā)掘全新思想?！盚assabis 今年 2 月份說道?！斑@次圍棋比賽讓我們第一次見識了 AI 的創(chuàng)造能力?！弊罱珹lphaGo 又在網(wǎng)上匿名狂虐各國圍棋高手，它甚至實現(xiàn)了 60-0 的完勝成績。此外，今年 1 月份 AI 還出山玩起了德州撲克，結(jié)果 AI 再次大勝而歸，絲毫不給人類面子。
彼得·蒂爾曾說起過他的一個朋友，那位朋友曾有個經(jīng)典的論斷：人們能忍受硅谷，就是因為那里的呆子們雖然拿著大把錢卻過著毫無樂趣的生活，連日常嘿嘿嘿他們都享受不了。不過，一說到來自日本的性愛機器人，這些硅谷的極客們卻又來了興趣。這并不奇怪，畢竟這里是直男癌的聚居地，而且性騷擾和性別歧視幾乎是硅谷公司的通病。當(dāng)筆者把這個事告訴馬斯克時，他居然也非常實誠的表示：“性愛機器人？這個可以有。”
三年前當(dāng)谷歌收購 DeepMind 時，兩家公司共同建立了倫理委員會，無論是否出于真心，此舉都是彌足珍貴的探索，至少它表明 Hassabis 追求的是真正的 AI。去年 6 月，DeepMind 的研究者拿出了一份論文，為想象中的 AI 反叛設(shè)計了一個解決方案，一旦 AI 失控，人類只需按下那個“大紅按鈕”就能解決。
拉里·佩奇認為現(xiàn)在的系統(tǒng)大多都沒有處于最佳狀態(tài)，他相信一旦 AI 加入，人們的需求就能更好的被滿足，這樣一來“大家就能有更多時間陪家人或者追求自己的興趣愛好?！辈贿^，這時可能你已經(jīng)失業(yè)了。
馬斯克是佩奇的死黨，佩奇結(jié)婚時他受邀參加，有時到舊金山時他還會去佩奇的家中小住?！懊總€星期只住一兩個晚上，沒必要專門買房吧?！边@話從一個大富豪口中說出可真是讓人驚訝。不過，對于死黨對 AI 的理解，馬斯克嘴上也從不留情，他認為佩奇在這個問題上太天真了。許多谷歌人看不慣馬斯克的指手畫腳，認為他每天掛在嘴邊的都是陳詞濫調(diào)。Alphabet 董事長埃里克·施密特表示：“人類制造機器人，政府武裝它們，邪惡統(tǒng)治者再讓機器人槍口對準人民，隨后人類滅亡，馬斯克這劇情簡直就是科幻電影。”
一些硅谷人則認為，馬斯克拯救世界為假，給自己貼金才是真，而且他用的還是老掉牙的劇情。此外，馬斯克用人機大戰(zhàn)的劇情也是為了吸引人才，其真正目的并非阻止 AI，而是阻止別人發(fā)展 AI。
馬斯克是個好的銷售人才，這點毋庸置疑，一個舉著人類保護著大旗的人賣給你自動駕駛的特斯拉你會不買嗎？百度前首席科學(xué)家吳恩達就曾稱馬斯克是“營銷天才”，“在經(jīng)濟不景氣的時期，他都能說服美國政府幫他造了售價昂貴的電動跑車?！眳嵌鬟_不像馬斯克，他辦公室的椅子上就掛著一件刺繡有“相信機器人”字樣的服裝，他認為馬斯克憑借自己出格的言論很快就打進了 AI 圈?！拔蚁胨麥蚀_地看到了，AI將會創(chuàng)造巨大的價值。”吳恩達說道。
雖然 Ashlee Vance 曾稱馬斯克為“科幻版的馬戲團老板”，但他認為馬斯克的擔(dān)心是真實存在的，雖然馬斯克到底要拿什么對抗 AI 崛起還是未知數(shù)?！榜R斯克的第一任妻子曾說，他們倆夜里很晚還會討論 AI 的問題?！盫ance 說道?！榜R斯克是個很重邏輯的人，他做每件事都像下棋，總是會深思熟慮，如果他覺得事情不妙，最后多半會以慘敗收場?！?/p>
加大伯克利分校機器智能研究所聯(lián)合創(chuàng)始人 Eliezer Yudkowsky 同意 Vance 的觀點。他表示：“他可是馬斯克，光這個名字就值老鼻子錢了。如果想博得關(guān)注，馬斯克根本不用談 AI，直接說移民火星的話題就好?！?/p>
一些人對馬斯克嗤之以鼻，覺得他想太多了，現(xiàn)在的時代你想讓打印機反叛它也沒那個能力。還有一波人則認為馬斯克有害怕錯過的心理：他的朋友佩奇在最新的領(lǐng)域有了新軟件，而且程序員的隊伍也不斷壯大。就像 Vance 說的，“馬斯克也想要佩奇手中的玩具，他們雖然是好朋友，但作為硅谷雙雄，兩者也有競爭關(guān)系?！边@樣的心理其實很普遍，作為一個爭強好勝的人，馬斯克其實是不愿風(fēng)頭被別人蓋過。
對 AI 潛在威脅的不同看法“確實影響了馬斯克與佩奇的友誼?！辈贿^馬斯克稱“那件事已經(jīng)過去，我們倆現(xiàn)在好著呢。”
雖然與佩奇私交甚好，但馬斯克與扎克伯格卻沒什么交集。小扎經(jīng)常為自己設(shè)定目標并努力去完成，去年他的目標就與 AI 有關(guān)。
去年馬斯克宣布建立 OpenAI 僅僅三周，扎克伯格就在自己的 Facebook 上發(fā)布了新的年度挑戰(zhàn)任務(wù)，打造一個像賈維斯那樣的全能 AI 助手。
一位 Facebook 員工也提醒小扎，千萬別一不小心搞出了《終結(jié)者》里的天網(wǎng)。但扎克伯格并不擔(dān)心，他回復(fù)稱：“我認為 AI 能為我所用并良好的協(xié)助工作。有些人認為 AI 是個巨大的威脅，但對我來說，AI 的危險程度遠比不上疾病和暴力?！边@明顯是在嗆聲馬斯克。在去年 4 月的 Facebook 開發(fā)者大會上，小扎還表示：“相對于恐懼，我更愿意選擇希望?！?/p>
在去年 11 月接受《連線》雜志采訪時，扎克伯格則表示，現(xiàn)在對于所謂審判日的擔(dān)心完全是科幻小說里的情節(jié)?！叭绻覀円驗榭謶侄怕椒ィ蜁踝∵M步的方向。”他認為現(xiàn)在人們對 AI 的恐懼與當(dāng)年對飛機的恐懼無異，“在搞清楚如何讓飛機飛上天之前，弄那么多規(guī)定又有什么用呢？”扎克伯格說道。
在圣誕節(jié)前，扎克伯格的 AI 管家終于正式出爐了，他還找來了好萊塢影星摩根·弗里曼來配音。小扎的賈維斯雖然較為初級，但切個歌，開關(guān)個燈或者烤個吐司完全不在話下。對于扎克伯格的 AI 管家，馬斯克評論稱：“這種能自動完成家務(wù)活的東西根本算不上 AI，開關(guān)燈和調(diào)節(jié)溫度可不是什么復(fù)雜活。”對于馬斯克的評價，扎克伯格有些不屑一顧，稱他的話實在是有些可笑。
去年 9 月，SpaceX 的火箭在發(fā)射臺上爆炸，順帶毀了 Facebook 的衛(wèi)星。對于此事，小扎只是冷冷的在 Facebook 主頁表示自己“實在是太失望了?！?/p>
馬斯克和其他給 AI 立 Flag 的人現(xiàn)在都被當(dāng)作愛小題大作的人。去年 1 月，馬斯克贏得了盧德分子獎（反技術(shù)進步），評這個獎的是華盛頓一家技術(shù)政策智囊。不過，馬斯克不是一個人在戰(zhàn)斗，英國著名物理學(xué)家霍金堅定的站在他這邊。霍金表示：“我認為人工智能的發(fā)展可能會預(yù)示著人類的滅亡?！笔澜缡赘簧w茨對 AI 的未來也深表擔(dān)心，他認為一旦 AI 覺醒，其后果可能比核戰(zhàn)爭還要恐怖。牛津大學(xué)哲學(xué)教授 Nick Bostrom 在他 2014 年出版的《超級智能》一書中寫道：“一旦不友好的超級智能誕生，就會千方百計阻止我們替換它，那樣的話人類命運就堪憂了。”去年，就連美國前國務(wù)卿亨利·基辛格也大聲疾呼，稱智能機器人可能造成歷史的斷裂，甚至瓦解整個人類文明。
2015 年 1 月，馬斯克和一些業(yè)內(nèi)專家齊聚波多黎各參加一次會議，此次會議的主持人是麻省理工物理學(xué)家 Max Tegmark。會后，Max Tegmark 問我：“你買房了嗎？家里安滅火系統(tǒng)沒？波多黎各的會議重點就是我們需要全套的滅火系統(tǒng)。當(dāng)我們遭遇火災(zāi)并深受其害時，人類發(fā)明了滅火器；當(dāng)車禍帶走鮮活的生命，我們又發(fā)明了安全帶和氣囊，但在核武器和 AI 的問題上，我們可一次錯誤都不能犯，一旦犯了錯誤連吸取教訓(xùn)的機會都沒了，因此我們必須未雨綢繆?！?/p>
波多黎各的會議過去半年后，馬斯克、霍金、Hassabis、沃茲尼亞克和 Stuart Russell（加大伯克利分校計算機科學(xué)教授）等 1000 多位業(yè)內(nèi)知名人物簽署了一封聯(lián)名信，要求禁止進攻性自動武器?！斑^去的半個世紀以來，這 18 個月對 AI 界的未來是最為至關(guān)重要的?！盧ussel 說道?！癆I 界終于蘇醒，并開始認真思考怎樣做才會有一個美好的未來?！比ツ?9 月，美國五大科技巨頭（谷歌、Facebook、亞馬遜、IBM、微軟）罕見的攜起手來成立了 AI 合作組織。而歐盟這開始探討有關(guān)機器人和 AI 的道德問題，如機器人有沒有“人格”或它們應(yīng)不應(yīng)該遵守人類的法律。
去年 1 月，Tegmark 再次主持了一次 AI 安全會議。這次會議的會址（加州阿西洛馬中心）也很特別，1975 年時，一眾科學(xué)家曾在這里簽署了限制基因?qū)嶒灥膮f(xié)定。這次的安全會議佩奇也參加了，馬斯克表示，他們之間的談話不再劍拔弩張了。
會后，馬斯克稱我們還有很長的路要走，但他同時表示：“硅谷的頂級科學(xué)家們確實開始認真對待 AI 了，他們都意識到了這項技術(shù)的風(fēng)險。”
沃茲尼亞克則認為：“人類與 AI 之間必須建立合作伙伴關(guān)系，在打造機器人之初我們就必須在它們大腦中植入一個觀念，那就是機器人與人類是好朋友?！?/p>
精明的彼得·蒂爾對馬斯克的“十字軍東征”則有不同看法，他覺得馬斯克聲勢浩大的“抵制”行為反而可能會加速 AI 的研究，因為他的末日論讓許多人都摩拳擦掌想要在 AI 領(lǐng)域一試身手。
“AI問題包括了人們對電腦時代的全部希望和恐懼”，蒂爾說道?！拔艺J為極限情況下，人類的直覺會失靈，我們可能連 AI 是什么都不知道，想找到控制它們的方法就更難了。畢竟我們從來沒有在這個星球上處理過比人類更聰明的實體”。
為了搞清楚到底誰說得對，筆者專門去見了 Ray Kurzweil，Kurzweil 是《奇點迫近》（吳恩達也非常推薦這本書）的作者，這部烏托邦作品幫我們暢想了 AI 的未來。
Kurzweil 表示：“眼下計算機對人類思考貢獻頗大，而僅僅幾年前，AI 連貓狗之間有什么差別都分不清。”Kurzweil 是典型的“貓奴”，他在加州的家里養(yǎng)了 300 多只貓。這位 69 歲的作家想要長生不老，他每天只吃一些奇怪的健康食品，此外還要搭配 90 片亂七八糟的藥。同時，Kurzweil 還非常支持人與超級智能合二為一的想法，在描述這個想法時，他甚至都用到了“我們”一詞，而擁有同樣想法的馬斯克則謹慎的選擇了“它們”這個詞。
機器人學(xué)家 Hans Moravec 認為 Kurzweil 是個樂天派，他根本意識不到 AI 帶來的危險。不過，Kurzweil 可不同意，他表示自己對 AI 的威脅心知肚明?！拔ｋU和希望相互交織。就像火一樣，它能燒飯取暖，但用的不好也會燒掉你家的房子。此外，我們有類似生物科技指導(dǎo)原則的危險控制策略?！?/p>
Kurzweil 將人類對新技術(shù)的反應(yīng)總結(jié)為三個層次：哇、哦和如果不繼續(xù)前進，我們還有別的選擇嗎？“想不被計算機淘汰，我們唯一能做的就是變得越來越聰明，而創(chuàng)造這些工具就是為了增強人類的能力?！?/p>
200 萬年前，人類大腦中進化出了新的皮質(zhì)層，于是我們“發(fā)明了語言、科學(xué)、藝術(shù)和技術(shù)?！盞urzweil 認為，本世紀 30 年代，人類將進化成半機械人，通過神經(jīng)系統(tǒng)直接就能進入 VR 和 AR 世界?！暗綍r人人都是幽默大師、音樂造詣高超且智慧過人。”Kurzweil 說道。除了人人變成貝多芬和愛因斯坦，人體內(nèi)植入的微型機器人還能治療疾病，讓我們延年益壽。
Kurzweil 認為馬斯克的設(shè)想可能會成真，AI 可能很友好，但也有可能黑化，如果它們要反叛，人類必須與之一戰(zhàn)，而打勝仗的關(guān)鍵是打造一個比反叛 AI 還聰明的 AI 同盟軍。
對于機器人替代人類的說法，Russell 不敢茍同，他認為如果機器人替代了人類，這世界上就沒有意識存在了，即使它們能創(chuàng)造更令人驚嘆的事情，對世界來說也是個巨大的悲劇。Nick Bostrom 則認為這樣的世界是“沒有孩子的迪士尼樂園”。
“許多人相信如果機器人在智力上超越了人類，就會占領(lǐng)地球并趕走人類?！盧ussell 說道?！傲硪粨苋藙t認為人類可以將自己的思維上傳到機器體內(nèi)，這樣就能進化成有意識的機器人。不過，我認為這種想法很難實現(xiàn)?！?/p>
同時，Russell 也反對 AI 大牛 Yann LeCun 的說法，后者認為《機械姬》或《終結(jié)者》中的場景都不會出現(xiàn)，因為機器人沒有人類的基本欲求，它們不會感到饑餓，也沒有生兒育女的需求，更沒有自我保護的本能?！皺C器人沒有自我保護本能的說法是錯誤的，這項本能無需程序員植入。舉例來說，如果你讓機器人拿杯咖啡過來，它肯定得保護自己，死掉的機器人是無法完成任務(wù)的。因此，要完成任務(wù)它就會自我保護，而如果你要阻礙它完成任務(wù)，機器人可能就會痛下殺手，這個道理很好理解?！?/p>
去年，微軟關(guān)停了自家 AI 聊天機器人 Tay。Tay 原本寄托了微軟的期望，但網(wǎng)友卻把 Tay 教壞了，這個“清純的小姑娘”把各種黃賭毒的詞語學(xué)了個遍。馬斯克發(fā)推表示：“看吧，讓聊天機器人變成希特勒，微軟只花了一天時間。”
特朗普當(dāng)選總統(tǒng)后，馬斯克放低了姿態(tài)，開始小心行事。此外，他還當(dāng)了兩面派，在公司層面特斯拉反對特朗普的移民法令，馬斯克自己還會發(fā)推文聲援被特朗普擋在門外的一名，但另一方面他又堅持任特朗普戰(zhàn)略和政策委員會的顧問（Uber CEO 就在壓力下退出了）。Ashlee Vance 表示：“這做派絕對是馬斯克特色。只要能做成自己想做的事，別人怎樣風(fēng)言風(fēng)語他都無所謂。如果需要，馬斯克會毫不猶豫的做一個機會主義者?！?/p>
筆者曾詢問馬斯克，與特朗普合作后到底有多少人向他開炮?；卮疬@個問題時馬斯克顯得挺沮喪的，他表示：“在與總統(tǒng)談話時，屋里的氣氛還是比較有節(jié)制的，要知道會議室里有許多左派分子，他們聽不得相反的意見，這樣其實不好?！?/p>
Eliezer Yudkowsky 是一位年僅 37 歲的優(yōu)秀研究人員，他試圖找出在現(xiàn)實中人類能否根據(jù)意愿指揮 AI。筆者在伯克利分校的一家日本餐廳訪問了他。
Yudkowsky 說話像連珠炮，我還沒問，他就拋出了一連串問題，“假如 AI 覺醒了，它會允許你在它身上安個關(guān)閉按鈕嗎？它會試圖弄掉這個按鈕嗎？它愿意讓你按下按鈕嗎？出問題時它會自己按下按鈕嗎？如果它能自行改變設(shè)置，它會愿意背著這個關(guān)閉按鈕嗎？”這問題筆者可回答不了。不過，這些問題就是 Yudkowsky 的研究方向，想得出正確答案確實不容易。
我拿許多科幻電影中的經(jīng)典情節(jié)設(shè)問，Yudkowsky 托著頭耐心的回答我，他表示：“AI 想奪權(quán)根本不需要控制整個互聯(lián)網(wǎng)，也不需要無人機。AI 的危險不在于它們手上有槍，而在于它們比人類聰明。假設(shè)它們能預(yù)知解決 DNA 蛋白質(zhì)結(jié)構(gòu)信息的技術(shù)，只需發(fā)幾封郵件給實驗室，很快就能建立一個分子結(jié)構(gòu)機器大軍?！?/p>
“如果你擔(dān)心 AI 奪權(quán)，也別馬上想起那些科幻電影中紅著眼睛的人形金屬機器人，真正的威脅其實來自那些看不到的合成細菌，它們會載著微型電腦進入每個人的血液。隨后只要這些機器人釋放攜帶的毒劑，地球上的人類瞬間就會滅絕?！盰udkowsky 說道?！爱?dāng)然，AI 是不是準備這樣消滅人類還不一定，畢竟它們智力已經(jīng)超越人類，我們根本無法摸清它的脾氣。所以，當(dāng)你制造一個比你還聰明的事物時，第一次嘗試就不能出任何差錯。”
馬斯克與 Yudkowsky 想法類似，他并不擔(dān)心殺戮機器人。“AI 的恐怖之處不在于它要化身為機器人，相反它會成為網(wǎng)絡(luò)上的算法，到時機器人就會變成終端效應(yīng)器，無限的散播性是最難阻擋之處?！瘪R斯克說道。
Altman 則想得更遠，他表示：“一個能控制整個互聯(lián)網(wǎng)的 AI 算法可比控制機器人的 AI 算法要強大得多，畢竟我們的生活早已與互聯(lián)網(wǎng)密不可分?！?/p>
為了生動地說明這個問題，馬斯克還打了個比方：“假如你創(chuàng)建了一個可以自我升級的 AI 來摘草莓，這個 AI 可以干得越來越好，摘得越來越多。不過，這個系統(tǒng)想做的事情就是摘草莓，所以它可能會把全世界都變成草莓園，而且永遠都是草莓園，這樣一來人類就沒有生存空間了。”
在問到人類能否拿到那個”大紅按鈕“時，馬斯克表示：“我可不想當(dāng)那個手持大紅按鈕的人，因為 AI 會第一個來殺掉我。”
Altman 繼續(xù)開玩笑的表示：“活著真好，因為未來十年里人類要么走向自我毀滅，要么就會進化成新物種殖民宇宙?！?/p>
“是的，如果你認為宇宙最終將徹底死亡，那么我們就正在走上這條路?！瘪R斯克補充道。一個如此關(guān)心人類命運的人居然拿滅絕來開玩笑，馬斯克也真是心大，就像 H. P. Lovecraft 的名言：“最恐怖的諷刺往往不會缺席。”
Via. VanityFair，雷鋒網(wǎng)編譯
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
