Jerome Pesenti 在全球最具影響力和爭議的公司之一 Facebook 領(lǐng)導(dǎo)人工智能技術(shù)的發(fā)展。作為 Facebook 人工智能副總裁，他管理著數(shù)百名科學(xué)家和工程師，他們的工作指導(dǎo)了公司的發(fā)展方向，以及對更廣闊的世界產(chǎn)生影響。

人工智能對 Facebook 來說至關(guān)重要。學(xué)習(xí)抓住我們注意力的算法有助于使該平臺(tái)及其姊妹產(chǎn)品 Instagram 和 WhatsApp 更具粘性和上癮性。而且，盡管有一些著名的失敗的人工智能產(chǎn)品（比如個(gè)人助理 M），F(xiàn)acebook 仍在繼續(xù)使用人工智能構(gòu)建新的功能和產(chǎn)品，從 Instagram 過濾器到增強(qiáng)現(xiàn)實(shí)應(yīng)用。

Mark Zuckerberg 承諾，將部署人工智能，通過控制仇恨言論、虛假新聞和網(wǎng)絡(luò)欺凌，幫助解決一些公司最棘手的問題。但目前為止，這一努力收效甚微。最近，F(xiàn)acebook 被迫考慮如何識(shí)別人工智能驅(qū)動(dòng)的虛假視頻，這種視頻不僅可以令人信服地傳播錯(cuò)誤信息，還可以引發(fā)新形式的騷擾。

Pesenti 于 2018 年 1 月加入 Facebook，繼承了該領(lǐng)域大牌人物 Yann Lecun 創(chuàng)建的一個(gè)研究實(shí)驗(yàn)室。在此之前，他曾在 IBM 的 Watson AI 平臺(tái)和 Benevolent AI 工作，該公司正在將這項(xiàng)技術(shù)應(yīng)用于醫(yī)學(xué)領(lǐng)域。

日前，Pesenti 在其紐約辦事處附近會(huì)見了《連線》的資深作家 Will Knight，下文是經(jīng)過編輯的訪談對話。

Will Knight：人工智能被認(rèn)為是解決虛假新聞和網(wǎng)絡(luò)濫用的方法之一，但這可能夸大了它的威力。你們在這方面取得了什么進(jìn)展？

Jerome Pesenti：在 Facebook 的規(guī)模下進(jìn)行自動(dòng)調(diào)節(jié)甚至是人和計(jì)算機(jī)的協(xié)同工作，是一個(gè)極具挑戰(zhàn)性的問題。但是我們已經(jīng)取得了很大的進(jìn)步。

早期，我們在視覺理解和圖像處理方面取得了進(jìn)展。在過去的幾年里，我們已經(jīng)能夠?qū)⑾嚓P(guān)技術(shù)應(yīng)用于識(shí)別裸體、暴力的圖像和視頻，以及理解圖像和視頻中發(fā)生的事情。

最近我們在語言領(lǐng)域也有了很大的進(jìn)步，我們能夠通過人們使用的語言更精確地理解互動(dòng)。我們可以分別出哪些是仇恨言論，哪些言論只是一個(gè)笑話。這決不是一個(gè)已經(jīng)完全解決的問題，但已經(jīng)取得了明顯的進(jìn)展。

Will Knight：deepfake 呢？

Jerome Pesenti：我們非常認(rèn)真地對待這個(gè)問題。實(shí)際上，我們四處尋找并制作了新的 deepfake 視頻，這樣人們就可以測試 deepfake 檢測技術(shù)。這是一個(gè)非常重要的挑戰(zhàn)，我們正在努力未雨綢繆。目前這項(xiàng)工作在這個(gè)平臺(tái)上使用得并不是很理想，但我們知道它可以變得非常強(qiáng)大。我們已經(jīng)與業(yè)界和社會(huì)接觸，努力領(lǐng)先。

Will Knight：讓我們更普遍地談?wù)勅斯ぶ悄?。一些公司，比?DeepMind 和 OpenAI，聲稱他們的目標(biāo)是開發(fā)「人工通用智能，AGI」，F(xiàn)acebook 也在做這件事嗎？

Jerome Pesenti：作為一個(gè)實(shí)驗(yàn)室，我們的目標(biāo)是讓技術(shù)匹配人類的智力。雖然還有很長的路要走，但我們認(rèn)為這是一個(gè)偉大的目標(biāo)。我認(rèn)為實(shí)驗(yàn)室里的很多人，包括 Yann，都認(rèn)為「AGI」這個(gè)概念并不是很有趣，也不是很有意義。

一方面，有人認(rèn)為 AGI 是人類智能。但我認(rèn)為這有點(diǎn)不真誠，因?yàn)槿祟惖闹橇Ρ旧砭筒皇且粋€(gè)統(tǒng)一的問題。另一方面，有些人對 AGI 的想法很奇怪，他們認(rèn)為，AGI 是一種可以靠自己不斷進(jìn)化的智力。但是這并沒有真正的模型，即便是人類都不能讓自己變得更聰明。我認(rèn)為人們對 AGI 的追捧有點(diǎn)像是對某種議程的追捧。

Will Knight：Facebook 的人工智能實(shí)驗(yàn)室是由 LeCun 建立的，LeCun 是深度學(xué)習(xí)的先驅(qū)之一，他最近因在該領(lǐng)域的工作而獲得了圖靈獎(jiǎng)。你怎么看那些批評(píng)該領(lǐng)域注重深度學(xué)習(xí)，認(rèn)為它不會(huì)給我們帶來真正的智慧的人？

Jerome Pesenti：說實(shí)話，深度學(xué)習(xí)和當(dāng)前的人工智能有很多局限性。我們離人類智力非常遙遠(yuǎn)，我同意某些觀點(diǎn)：它可以傳播人類的偏見，不容易解釋，它沒有常識(shí)，更多的是在模式匹配而不是強(qiáng)大的語義理解的層面上。但我們在解決其中一些問題上取得了進(jìn)展，而且這一領(lǐng)域的進(jìn)展仍然相當(dāng)快。你可以把深度學(xué)習(xí)應(yīng)用到數(shù)學(xué)上，也可以用它來理解蛋白質(zhì)，你可以用它做很多事情。

Will Knight：一些人工智能專家也談到了「復(fù)現(xiàn)性危機(jī)」，或者說是重新創(chuàng)建突破性研究的困難。你認(rèn)為這是個(gè)大問題嗎？

Jerome Pesenti：這正是 Facebook AI 非常熱衷的事情。當(dāng)人們做一些不可復(fù)制的事情時(shí)，就會(huì)遇到很多挑戰(zhàn)。如果你不能復(fù)現(xiàn)它，那就會(huì)產(chǎn)生大量的投資損失。

我們相信復(fù)現(xiàn)性給這個(gè)領(lǐng)域帶來了很多價(jià)值。它不僅可以幫助人們驗(yàn)證結(jié)果，還可以讓更多的人了解正在發(fā)生的事情，并以此為基礎(chǔ)進(jìn)行構(gòu)建。人工智能的美妙之處在于，它最終是由計(jì)算機(jī)運(yùn)行的系統(tǒng)。因此，作為科學(xué)的一個(gè)分支，它是一個(gè)首要的候選者，是可復(fù)制的。我們相信未來的人工智能將是默認(rèn)可以復(fù)制的東西。我們試圖開源我們在人工智能中編寫的大部分代碼，這樣其他人就可以在上面構(gòu)建自己的東西。

Will Knight：OpenAI 最近指出，高級(jí)人工智能所需的計(jì)算能力每 3 個(gè)半月就翻一番。你擔(dān)心這個(gè)嗎？

Jerome Pesenti：這是個(gè)很好的問題。當(dāng)你擴(kuò)展深度學(xué)習(xí)時(shí)，它往往表現(xiàn)得更好，能夠以更好的方式解決更廣泛的任務(wù)。所以，縮放是有優(yōu)勢的。但顯然，這種進(jìn)步速度是不可持續(xù)的。如果你看看最前沿的科學(xué)實(shí)驗(yàn)，它們每年的成本都會(huì)增加數(shù) 10 倍?，F(xiàn)在，一個(gè)實(shí)驗(yàn)的花銷可能是 7 位數(shù)，但不會(huì)達(dá)到 9 位數(shù)或 10 位數(shù)，不可能，沒人能負(fù)擔(dān)得起。

這意味著在某個(gè)時(shí)候，在很多我們目前已經(jīng)涉及的領(lǐng)域，我們會(huì)撞到墻。并不是每個(gè)領(lǐng)域都達(dá)到了可擴(kuò)展性的極限，但在大多數(shù)地方，我們已經(jīng)到了一個(gè)需要從優(yōu)化、成本效益等方面考慮的地步，而且我們還需要看看如何從現(xiàn)有的計(jì)算中獲得最大的收益。這就是我們將要面對的情況。

Will Knight：你從 IBM 和 Watson 的人工智能商業(yè)化中學(xué)到了什么？你在 Facebook 會(huì)試圖復(fù)制哪些東西，又會(huì)試圖避免什么錯(cuò)誤？

Jerome Pesenti：在 Watson 的時(shí)光非常有趣， IBM 稱這是一個(gè)商業(yè)市場，實(shí)際上有應(yīng)用程序。我覺得那真的很了不起，但有點(diǎn)太夸張了。我認(rèn)為這對 IBM 的服務(wù)來說不是很好。

當(dāng)你有一個(gè)像 Facebook 這樣的地方時(shí)，人工智能在組織內(nèi)的使用率是非常驚人的。目前，F(xiàn)acebook 內(nèi)部使用人工智能的開發(fā)者數(shù)量每年都翻一番以上。所以，我們認(rèn)為它是有用的，但不要夸大它。我不需要夸大其詞來證明我的團(tuán)隊(duì)的存在。

Will Knight：Facebook 有時(shí)很難將人工智能研究成果轉(zhuǎn)化為商業(yè)上的成功，你認(rèn)為如何更有效地將理論研究與工程實(shí)踐聯(lián)系起來？

Jerome Pesenti：當(dāng)你開始談?wù)摷夹g(shù)轉(zhuǎn)換時(shí)，這意味著你已經(jīng)輸?shù)袅诉@場戰(zhàn)斗。你不能只選擇一些研究，而要求其他人嘗試將其投入生產(chǎn)。你不能把它扔過籬笆。最好的方法是讓人們和更接近產(chǎn)品的人一起做基礎(chǔ)研究，確保一系列項(xiàng)目隨著時(shí)間的推移而成熟，并將人們聚集到一起，而不是讓科學(xué)家站在一邊獨(dú)自研究，這確實(shí)是一個(gè)組織上的挑戰(zhàn)。

Will Knight：那么，近期 Facebook 會(huì)推出哪些新的人工智能產(chǎn)品呢？

Jerome Pesenti：如今，人工智能在 Facebook 中的核心用途是讓平臺(tái)對用戶來說更安全，并確保我們向用戶展示的內(nèi)容對他們有價(jià)值。但我們正在做的一些最令人興奮的事情是試圖創(chuàng)造只有擁有人工智能才可能有的新體驗(yàn)。增強(qiáng)現(xiàn)實(shí)和虛擬現(xiàn)實(shí)都只能存在于人工智能中。我們最近看到，你可以用手與虛擬現(xiàn)實(shí)互動(dòng)，這需要對耳機(jī)周圍的東西有一個(gè)非常微妙的了解。它只使用一個(gè)相機(jī)解析整個(gè)場景，這樣你就可以用你的手作為控制器。我也相信讓人們更有創(chuàng)造力的潛力是巨大的。你可以在 TikTok 這樣的競品中看到這一點(diǎn)。許多人通過與媒體自然互動(dòng)而不是成為專家、視頻編輯或藝術(shù)家來創(chuàng)作視頻和內(nèi)容。

Will Knight：deepfake 背后的技術(shù)可能會(huì)達(dá)到這樣的創(chuàng)造性目的嗎？

Jerome Pesenti：當(dāng)然。我們需要看到積極和消極兩個(gè)方面。人工智能讓人們更有創(chuàng)造力的潛力還很大。但正如我們在過去幾年中所了解到的，我們需要負(fù)責(zé)任地使用這項(xiàng)技術(shù)，需要在意外發(fā)生之前意識(shí)到這一點(diǎn)。

Will Knight：你對人工智能出口管制有什么看法？這項(xiàng)技術(shù)能被限制嗎？會(huì)對這一領(lǐng)域有所傷害嗎？

Jerome Pesenti：我個(gè)人的意見是，這似乎是非常不切實(shí)際的。不過，除此之外，它還可能對研究進(jìn)展產(chǎn)生負(fù)面影響，迫使研究工作的可重復(fù)性降低。我相信開放性和協(xié)作性對于推動(dòng)人工智能的發(fā)展是很重要的，限制基礎(chǔ)研究成果的出版或開源可能會(huì)減緩該領(lǐng)域的進(jìn)展。

也就是說，無論是否實(shí)施了此類控制，作為負(fù)責(zé)任的研究人員，我們應(yīng)該繼續(xù)考慮潛在誤用的風(fēng)險(xiǎn)，以及如何幫助減輕這些風(fēng)險(xiǎn)，同時(shí)仍然確保我們推進(jìn)的人工智能盡可能開放和可復(fù)制。

via：https://www.wired.com/story/facebooks-ai-says-field-hit-wall/

雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。