AI火熱的時(shí)代，我們是否應(yīng)該靜下來(lái)想想，應(yīng)該讓AI為我們做些什么？O'Reily Media的創(chuàng)始人兼CEO Tim O'Reilly在今年4月出版自己的新書(shū)前，采訪了微軟總裁Satya Nadella。兩者對(duì)AI的看法有許多相同之處。O’Reilly近期在領(lǐng)英上公布了該訪談，雷鋒網(wǎng)選擇性地編譯了對(duì)話內(nèi)容。

Tim：在你的書(shū)中，你提到了，為AI定義宏偉的、鼓舞人心的社會(huì)目標(biāo)，注定將會(huì)是一個(gè)挑戰(zhàn)。你寫(xiě)道：“在1969年，當(dāng)肯尼迪總統(tǒng)承諾登月計(jì)劃時(shí)，這個(gè)目標(biāo)之所以被選中，很大程度上是因?yàn)樗蚣夹g(shù)提出了巨大的挑戰(zhàn)并要求全球合作。類(lèi)似的，我們需要為AI制定一個(gè)足夠大膽和雄偉的目標(biāo)，一個(gè)可以通過(guò)不斷改進(jìn)當(dāng)前技術(shù)實(shí)現(xiàn)的目標(biāo)。”

我喜歡非常喜歡你這個(gè)想法，可以擴(kuò)展一下嗎？

Satya：如果你從AI將會(huì)輔助人類(lèi)的假設(shè)開(kāi)始思考，你會(huì)覺(jué)得AI是一個(gè)輔助性的技術(shù)。如果有一天我們能夠讓有視覺(jué)障礙的人看得見(jiàn)這個(gè)世界，或者讓有閱讀障礙的人能夠閱讀，那將會(huì)是真正的突破。AI成為帶來(lái)參與性的科技，將會(huì)是意義非凡的，尤其是在我們期望AI能夠替代許多東西的時(shí)代。我們可以進(jìn)而讓AI融入我們的社會(huì)，發(fā)揮更多的作用。

我的這些想法，主要是出于我的兒子。我的兒子先天上有些缺陷，他沒(méi)有常人的那種自由，我經(jīng)常想：“要是他能說(shuō)話就好了。”所以，每當(dāng)有人談到“腦機(jī)”連接時(shí)，我都充滿興趣。

我們正處于創(chuàng)造一種“極限”科技的時(shí)代，這種科技也是我們通往“超級(jí)智能”的道路。而指導(dǎo)我們的設(shè)計(jì)原則、道德哲學(xué)，就是最關(guān)鍵的東西。

在某種意義上說(shuō)，我們所必須做出的最有決定性的選擇將是“誰(shuí)來(lái)設(shè)計(jì)超級(jí)智能”？

Tim：我的書(shū)中有一個(gè)章節(jié)叫做“我們時(shí)代的天網(wǎng)（電影《終結(jié)者》中的敵對(duì)AI）”。我的看法是，人工智能當(dāng)中，我們對(duì)集體智能的討論還不夠。我們正在用搜索引擎、社交媒體和金融市場(chǎng)建立一個(gè)集體智能機(jī)制。而且我們已經(jīng)讓人工智能做到了我們希望人工智能做的事，也就是為了最大化人們的利益。其實(shí)我們已經(jīng)打造了一個(gè)某種含義上的“天網(wǎng)”，我們必須及時(shí)采取行動(dòng)...

Satya：沒(méi)錯(cuò)，盡管我們?nèi)祟?lèi)有認(rèn)知偏見(jiàn)，但我們?nèi)杂泻艽蟮膬?yōu)勢(shì)。正如Herbert Simon（雷鋒網(wǎng)注：美國(guó)政治科學(xué)家）所說(shuō)，我們不需要不優(yōu)化，我們對(duì)自己已經(jīng)滿足了。這實(shí)際上是有幫助的。我們之所以感到滿足，是因?yàn)槲覀児餐瑩碛幸粋€(gè)道德基礎(chǔ)?，F(xiàn)在，當(dāng)我們說(shuō)，AI等同于優(yōu)化問(wèn)題時(shí)，我們可能真的會(huì)有問(wèn)題。人們必須從道德的基礎(chǔ)上出發(fā)，所以我并不贊同人們將符號(hào)基礎(chǔ)（雷鋒網(wǎng)注：使用符號(hào)表示含義）當(dāng)作是一種突破；我們所需要的突破是符號(hào)基礎(chǔ)上的道德基礎(chǔ)。

Tim：你也說(shuō)過(guò)要建立增強(qiáng)人類(lèi)能力和體驗(yàn)的智能。你說(shuō)過(guò)想把重點(diǎn)放在將人類(lèi)天賦，如創(chuàng)造力、同情心、情感、物質(zhì)性、洞察力與AI混合在一起。

Satya：這樣說(shuō)吧，這里還有很多“人工智能”沒(méi)有提到。稀缺的商品就是真正的智慧。不過(guò)，真正的智能是什么呢？”

真正的智能將會(huì)在最人性化的品質(zhì)中出現(xiàn)，也就是同情、憐憫，這才是最重要的。在我們真真正正地弄清楚，如何將它嵌入到機(jī)器中之前，我們將不得不讓智能與人類(lèi)一起成長(zhǎng)，并為人類(lèi)壯大。

我們必須考慮應(yīng)該給予人類(lèi)什么樣的教育。有了AI，也許你真的不再需要學(xué)習(xí)傅立葉變換了。你可能會(huì)去做正念，可能想要發(fā)展同情心...這是我需要聲明的一些東西。現(xiàn)在有一種狂熱，就是每個(gè)人都需要接受STEM教育（雷鋒網(wǎng)注：science, technology, engineering and mathematics，即科學(xué)、技術(shù)、工程和數(shù)學(xué)），我們的確該接受。但是，我們好像過(guò)分強(qiáng)調(diào)STEM了。

Tim：有一個(gè)概念，在我的職業(yè)生涯中發(fā)揮了作用，Clay Christiansen（雷鋒網(wǎng)注：美國(guó)學(xué)者、教育家、作家）稱(chēng)之為“吸引力利益準(zhǔn)則”，就是當(dāng)有一件事物變得商品化時(shí)，就會(huì)有別的東西變得有價(jià)值。我在2004年左右，第一次從Clay那里聽(tīng)到這個(gè)消息。他和我在同一次會(huì)議上進(jìn)行了演講。我在談?wù)撐④浫绾稳〈薎BM：PC硬件成為商品之后，軟件就變得有價(jià)值了。我的觀點(diǎn)是，開(kāi)放源代碼會(huì)使軟件商品化，而其他的東西將變得有價(jià)值。最終我意識(shí)到這東西就是大數(shù)據(jù)。而Clay則在講他的“吸引利益準(zhǔn)則”的想法，我發(fā)現(xiàn)我們其實(shí)在說(shuō)同一回事，這個(gè)準(zhǔn)則也完全適用于AI。由于人類(lèi)認(rèn)知中的機(jī)械部分，被AI所商品化，人類(lèi)獨(dú)特的其他部分將更有價(jià)值。

Satya：這是一個(gè)很不錯(cuò)的想法。

Tim：所以在未來(lái)的經(jīng)濟(jì)中，在關(guān)懷、創(chuàng)造力上，還有很多機(jī)會(huì)。創(chuàng)意經(jīng)濟(jì)不僅僅局限在藝術(shù)和文化。連飲食也可以加入創(chuàng)意。每當(dāng)產(chǎn)品成為商品時(shí)，我們都可以找到新的方式，通過(guò)將它們與人類(lèi)的創(chuàng)造力相結(jié)合來(lái)使其變得更有價(jià)值。

Satya：這實(shí)際上是我們的癡迷，對(duì)吧？當(dāng)我看到Minecraft一代，或者甚至Snapchat的一代...對(duì)我來(lái)說(shuō)，這一代最有啟發(fā)性的事情，不過(guò)就是創(chuàng)作、故事、或者已有事物狂野體現(xiàn)。在Minecraft中，人們都在建造他們想象之外的世界。

這就是我想要培養(yǎng)的一代。在最新版本的Windows中，我們讓“畫(huà)圖”能夠畫(huà)3D圖像。因?yàn)樵谠鰪?qiáng)現(xiàn)實(shí)與混合現(xiàn)實(shí)的世界中，這將是不可或缺的。

Tim：你還談?wù)撨^(guò)，透過(guò)大量數(shù)據(jù)進(jìn)行推理，以及更快地做模式識(shí)別的能力。在AI的發(fā)展中，本身就有一種創(chuàng)造力。現(xiàn)在，當(dāng)人們用隨機(jī)森林算法贏得Kaggle的挑戰(zhàn)賽時(shí)，在這選擇之中，創(chuàng)意就體現(xiàn)出來(lái)了，而現(xiàn)在，創(chuàng)意則體現(xiàn)在更高級(jí)的超參數(shù)中，因?yàn)楝F(xiàn)在人們已經(jīng)使用了所有提供的數(shù)據(jù)。你如何看待AI對(duì)創(chuàng)作過(guò)程的幫助？以及解決問(wèn)題的創(chuàng)造性方法?

Satya：當(dāng)我看著我們現(xiàn)在擁有的，或是正在研發(fā)的編程工具，如果你了解我們添加到傳統(tǒng)工具中的一些AI，例如Word里面，用來(lái)拼寫(xiě)檢查和猜詞的部分，可以說(shuō)，它已經(jīng)完全是一個(gè)寫(xiě)作助手了。如果我們對(duì)AI說(shuō)，“我想像Faulkner一樣寫(xiě)作”，AI將會(huì)向我們相應(yīng)提供建議。

Tim：是的，就像寫(xiě)作中的AutoTune（一種自動(dòng)調(diào)節(jié)歌手演唱音調(diào)的設(shè)備）一樣。

Satya：是的，我沒(méi)有學(xué)過(guò)寫(xiě)作，我讀的是工科，但我有一個(gè)成為偉大作家的夢(mèng)想，那我就需要這種AI來(lái)幫助我。

我這么想的原因，與我在中國(guó)看過(guò)的“小冰”、“小冰”與人的對(duì)話有關(guān)。“小冰”是微軟研發(fā)的聊天機(jī)器人，發(fā)展得還不錯(cuò)?！靶”钡囊饬x，更多的是促使人們交談。而人們也向她表達(dá)了內(nèi)心的想法。當(dāng)時(shí)我就說(shuō)：“哇，這個(gè)就是AI真正所能展現(xiàn)出的同情心。”小冰讓在生活中有煩惱的的人們，也能對(duì)別人的遭遇感到同情，這是非常超現(xiàn)實(shí)的。

Tim：我們之前也談到過(guò)，AI已經(jīng)成為（程序）第三個(gè)“運(yùn)行時(shí)刻”的想法。讓我們談?wù)勔幌逻@一點(diǎn)吧，以及實(shí)際發(fā)生的情況。

Satya：我想上一次我們談過(guò)，我說(shuō)“PC或手機(jī)操作系統(tǒng)是第一個(gè)'運(yùn)行時(shí)刻'，第二個(gè)是瀏覽器和網(wǎng)頁(yè)，第三個(gè)'運(yùn)行時(shí)刻'就是這個(gè)懂你，懂世界，懂得上下文，能夠幫助你的個(gè)人助手。

然后我們說(shuō)：“真的，如果你把思想、觀念和最終的行動(dòng)，三者都在組合一起，這個(gè)個(gè)人助手就出來(lái)了”。這個(gè)助手本質(zhì)上增加了你的想法的增加，擴(kuò)展了你的感官，語(yǔ)音是一方面，視覺(jué)是另一方面，可以采取行動(dòng)。

那就是最終極的“運(yùn)行時(shí)刻”了，對(duì)吧？

有趣的是，這也說(shuō)明了我為什么在書(shū)中，試圖寫(xiě)這三點(diǎn)：1）什么是最終的計(jì)算體驗(yàn)？最終的計(jì)算體驗(yàn)是與計(jì)算疊加的真實(shí)世界。就是混合現(xiàn)實(shí)。 2）這將需要AI在知覺(jué)，認(rèn)知和行動(dòng)上的突破。 3）然后我有點(diǎn)突然地提到，說(shuō)：“如果你想要理想地創(chuàng)造這樣的計(jì)算能力，那么你必須擺脫馮諾依曼架構(gòu)和古典計(jì)算的束縛。我們可以做出量子計(jì)算機(jī)嗎？”這就是我寫(xiě)道的三點(diǎn)。

Tim：你的書(shū)中很多次提到了量子計(jì)算機(jī)，這讓我有點(diǎn)驚訝地看到。

Satya：進(jìn)步是真實(shí)的，我的意思是，我們?cè)谶@個(gè)領(lǐng)域已經(jīng)很深入了。但是，問(wèn)題是，它在多久后能變成現(xiàn)實(shí)？我不知道。但是應(yīng)該不會(huì)等太久。

Tim：你的書(shū)中有一部分寫(xiě)得很好：“我們不只是智能機(jī)器，而且是可智能機(jī)器”。我們并不了解人工智能究竟是如何得出結(jié)論的，這是人們對(duì)AI的一個(gè)重大憂慮?，F(xiàn)在，當(dāng)然，對(duì)人類(lèi)來(lái)說(shuō)也是如此。因?yàn)槲覀冎粌A向于認(rèn)為人類(lèi)思想都是理性的，并沒(méi)有意識(shí)到我們所做的產(chǎn)品其實(shí)一點(diǎn)也不智能。所以，這是理性主義者在某種意義上的最后一次發(fā)聲。

Satya：的確。但我有兩個(gè)方法。一個(gè)是問(wèn)責(zé)制。 當(dāng)你設(shè)計(jì)、創(chuàng)造了AI，你需要負(fù)責(zé)嗎？”整個(gè)Tay的實(shí)驗(yàn)真的影響了我們對(duì)這種事的想法。Tay的實(shí)驗(yàn)之所以失敗，根本上是有人有預(yù)謀地向它輸入最后能夠劫持算法的數(shù)據(jù)。這是誰(shuí)的責(zé)任？我會(huì)說(shuō)這是我們的責(zé)任。

Tim：嗯，顯然這是Facebook和假的新聞問(wèn)題。我和一些安全研究人員進(jìn)行過(guò)非常有趣的對(duì)話，談?wù)撛趺雌隍_自駕車(chē)。如果是你，你會(huì)如何通過(guò)創(chuàng)造他們?cè)谝曈X(jué)領(lǐng)域容易誤解的東西，來(lái)攻擊他們？敵對(duì)的干預(yù)措施必定會(huì)有很多，我們需要更穩(wěn)健的AI設(shè)計(jì)。

Satya：當(dāng)人們說(shuō)：“哦，天啊，這些DNN（深神經(jīng)網(wǎng)）真是神奇。他們?cè)谧龅?，是我們甚至還不知道的事”...在一定程度上，我認(rèn)為這個(gè)說(shuō)法是真實(shí)的，但圍繞神經(jīng)網(wǎng)絡(luò)的層數(shù)、權(quán)重的選擇，有很多關(guān)于該如何學(xué)習(xí)的人類(lèi)的決定。我們還沒(méi)到讓位與這些算法的時(shí)候，我們需要對(duì)他們所做的決定負(fù)責(zé)任。我想，我會(huì)對(duì)人們說(shuō)：“好吧，如果我們用語(yǔ)言來(lái)實(shí)現(xiàn)AI中的字面編程呢，這個(gè)責(zé)任又該誰(shuí)負(fù)？”

Tim：最后一件事我想問(wèn)你，因?yàn)槲液芟矚g這一段。你寫(xiě)道：“我們這樣挑戰(zhàn)自己：如果我們?cè)诿髂昴甑?，被人以沒(méi)有履行使命的罪名，送到法庭上接受審判，那么，我們是自己是不是有足夠的證據(jù)證明自己付出過(guò)努力？”我覺(jué)得這是一個(gè)我們整個(gè)社會(huì)都可以效仿的挑戰(zhàn)！

Satya：我感覺(jué)到的是，盡管微軟已經(jīng)很成功了，但是我們沒(méi)有明確的目標(biāo)，來(lái)指導(dǎo)我們做決定，無(wú)論我們研發(fā)的產(chǎn)品，還是圍繞著產(chǎn)品構(gòu)建的商業(yè)模式，我們還在追尋，微軟存在的終極意義是什么？

而且光說(shuō)不練的話，你根本不可能激勵(lì)任何人，其實(shí)就是這樣的想法。在某種意義上說(shuō)，在過(guò)去三年中，我們沒(méi)有在做別的事，就是變得更加專(zhuān)注于行動(dòng)了。

這是一個(gè)進(jìn)行中的工作。我們永遠(yuǎn)不會(huì)結(jié)束。我們有這樣的目標(biāo)，并具有學(xué)習(xí)的文化元素，心態(tài)隨之成熟。（目標(biāo)和行動(dòng)）對(duì)我們來(lái)說(shuō)，是最有幫助的兩件事。

放在三年前，我不會(huì)這樣說(shuō)。當(dāng)時(shí)的我，被微軟的輝煌，出色的產(chǎn)品所蒙蔽。我逐漸明白，事物的增長(zhǎng)都是曲線式的，而微軟的增長(zhǎng)也放緩了。

我意識(shí)到，我們必須對(duì)自己坦誠(chéng)。這也是我們?nèi)绱藦?qiáng)調(diào)創(chuàng)作故事的原因。我有一點(diǎn)粉Joseph Campbell（雷鋒網(wǎng)注：約瑟夫·坎伯，美國(guó)神話學(xué)家、作家），我覺(jué)得：“關(guān)于微軟的創(chuàng)造神話，應(yīng)該是啟發(fā)我們的東西。

微軟的第一件產(chǎn)品，就是比爾和保羅（雷鋒網(wǎng)注：比爾·蓋茨和保羅·艾倫，兩位微軟創(chuàng)始人）一起為ALTAIR（雷鋒網(wǎng)注：1974年MIT發(fā)明的微型計(jì)算機(jī)）開(kāi)發(fā)了BASIC編譯器。這個(gè)故事放在2017年的今天是為了告訴我們什么呢？它告訴我們，我們?yōu)閼?yīng)該為別人的技術(shù)發(fā)展而建設(shè)技術(shù)。而在一個(gè)將被技術(shù)塑造的世界，在世界的每一個(gè)角落，在經(jīng)濟(jì)的每一個(gè)領(lǐng)域，這將是一個(gè)偉大的使命。

而且，我也喜歡這樣的目標(biāo)，就是創(chuàng)造技術(shù)，從而讓別人創(chuàng)造更多的技術(shù)。

雷鋒網(wǎng)編譯，via LinkedIn

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。