Jerome Pesenti 在全球最具影響力和爭議的公司之一 Facebook 領(lǐng)導人工智能技術(shù)的發(fā)展。作為 Facebook 人工智能副總裁，他管理著數(shù)百名科學家和工程師，他們的工作指導了公司的發(fā)展方向，以及對更廣闊的世界產(chǎn)生影響。

人工智能對 Facebook 來說至關(guān)重要。學習抓住我們注意力的算法有助于使該平臺及其姊妹產(chǎn)品 Instagram 和 WhatsApp 更具粘性和上癮性。而且，盡管有一些著名的失敗的人工智能產(chǎn)品（比如個人助理 M），F(xiàn)acebook 仍在繼續(xù)使用人工智能構(gòu)建新的功能和產(chǎn)品，從 Instagram 過濾器到增強現(xiàn)實應用。

Mark Zuckerberg 承諾，將部署人工智能，通過控制仇恨言論、虛假新聞和網(wǎng)絡(luò)欺凌，幫助解決一些公司最棘手的問題。但目前為止，這一努力收效甚微。最近，F(xiàn)acebook 被迫考慮如何識別人工智能驅(qū)動的虛假視頻，這種視頻不僅可以令人信服地傳播錯誤信息，還可以引發(fā)新形式的騷擾。

Pesenti 于 2018 年 1 月加入 Facebook，繼承了該領(lǐng)域大牌人物 Yann Lecun 創(chuàng)建的一個研究實驗室。在此之前，他曾在 IBM 的 Watson AI 平臺和 Benevolent AI 工作，該公司正在將這項技術(shù)應用于醫(yī)學領(lǐng)域。

日前，Pesenti 在其紐約辦事處附近會見了《連線》的資深作家 Will Knight，下文是經(jīng)過編輯的訪談對話。

Will Knight：人工智能被認為是解決虛假新聞和網(wǎng)絡(luò)濫用的方法之一，但這可能夸大了它的威力。你們在這方面取得了什么進展？

Jerome Pesenti：在 Facebook 的規(guī)模下進行自動調(diào)節(jié)甚至是人和計算機的協(xié)同工作，是一個極具挑戰(zhàn)性的問題。但是我們已經(jīng)取得了很大的進步。

早期，我們在視覺理解和圖像處理方面取得了進展。在過去的幾年里，我們已經(jīng)能夠?qū)⑾嚓P(guān)技術(shù)應用于識別裸體、暴力的圖像和視頻，以及理解圖像和視頻中發(fā)生的事情。

最近我們在語言領(lǐng)域也有了很大的進步，我們能夠通過人們使用的語言更精確地理解互動。我們可以分別出哪些是仇恨言論，哪些言論只是一個笑話。這決不是一個已經(jīng)完全解決的問題，但已經(jīng)取得了明顯的進展。

Will Knight：deepfake 呢？

Jerome Pesenti：我們非常認真地對待這個問題。實際上，我們四處尋找并制作了新的 deepfake 視頻，這樣人們就可以測試 deepfake 檢測技術(shù)。這是一個非常重要的挑戰(zhàn)，我們正在努力未雨綢繆。目前這項工作在這個平臺上使用得并不是很理想，但我們知道它可以變得非常強大。我們已經(jīng)與業(yè)界和社會接觸，努力領(lǐng)先。

Will Knight：讓我們更普遍地談談人工智能。一些公司，比如 DeepMind 和 OpenAI，聲稱他們的目標是開發(fā)「人工通用智能，AGI」，F(xiàn)acebook 也在做這件事嗎？

Jerome Pesenti：作為一個實驗室，我們的目標是讓技術(shù)匹配人類的智力。雖然還有很長的路要走，但我們認為這是一個偉大的目標。我認為實驗室里的很多人，包括 Yann，都認為「AGI」這個概念并不是很有趣，也不是很有意義。

一方面，有人認為 AGI 是人類智能。但我認為這有點不真誠，因為人類的智力本身就不是一個統(tǒng)一的問題。另一方面，有些人對 AGI 的想法很奇怪，他們認為，AGI 是一種可以靠自己不斷進化的智力。但是這并沒有真正的模型，即便是人類都不能讓自己變得更聰明。我認為人們對 AGI 的追捧有點像是對某種議程的追捧。

Will Knight：Facebook 的人工智能實驗室是由 LeCun 建立的，LeCun 是深度學習的先驅(qū)之一，他最近因在該領(lǐng)域的工作而獲得了圖靈獎。你怎么看那些批評該領(lǐng)域注重深度學習，認為它不會給我們帶來真正的智慧的人？

Jerome Pesenti：說實話，深度學習和當前的人工智能有很多局限性。我們離人類智力非常遙遠，我同意某些觀點：它可以傳播人類的偏見，不容易解釋，它沒有常識，更多的是在模式匹配而不是強大的語義理解的層面上。但我們在解決其中一些問題上取得了進展，而且這一領(lǐng)域的進展仍然相當快。你可以把深度學習應用到數(shù)學上，也可以用它來理解蛋白質(zhì)，你可以用它做很多事情。

Will Knight：一些人工智能專家也談到了「復現(xiàn)性危機」，或者說是重新創(chuàng)建突破性研究的困難。你認為這是個大問題嗎？

Jerome Pesenti：這正是 Facebook AI 非常熱衷的事情。當人們做一些不可復制的事情時，就會遇到很多挑戰(zhàn)。如果你不能復現(xiàn)它，那就會產(chǎn)生大量的投資損失。

我們相信復現(xiàn)性給這個領(lǐng)域帶來了很多價值。它不僅可以幫助人們驗證結(jié)果，還可以讓更多的人了解正在發(fā)生的事情，并以此為基礎(chǔ)進行構(gòu)建。人工智能的美妙之處在于，它最終是由計算機運行的系統(tǒng)。因此，作為科學的一個分支，它是一個首要的候選者，是可復制的。我們相信未來的人工智能將是默認可以復制的東西。我們試圖開源我們在人工智能中編寫的大部分代碼，這樣其他人就可以在上面構(gòu)建自己的東西。

Will Knight：OpenAI 最近指出，高級人工智能所需的計算能力每 3 個半月就翻一番。你擔心這個嗎？

Jerome Pesenti：這是個很好的問題。當你擴展深度學習時，它往往表現(xiàn)得更好，能夠以更好的方式解決更廣泛的任務。所以，縮放是有優(yōu)勢的。但顯然，這種進步速度是不可持續(xù)的。如果你看看最前沿的科學實驗，它們每年的成本都會增加數(shù) 10 倍。現(xiàn)在，一個實驗的花銷可能是 7 位數(shù)，但不會達到 9 位數(shù)或 10 位數(shù)，不可能，沒人能負擔得起。

這意味著在某個時候，在很多我們目前已經(jīng)涉及的領(lǐng)域，我們會撞到墻。并不是每個領(lǐng)域都達到了可擴展性的極限，但在大多數(shù)地方，我們已經(jīng)到了一個需要從優(yōu)化、成本效益等方面考慮的地步，而且我們還需要看看如何從現(xiàn)有的計算中獲得最大的收益。這就是我們將要面對的情況。

Will Knight：你從 IBM 和 Watson 的人工智能商業(yè)化中學到了什么？你在 Facebook 會試圖復制哪些東西，又會試圖避免什么錯誤？

Jerome Pesenti：在 Watson 的時光非常有趣， IBM 稱這是一個商業(yè)市場，實際上有應用程序。我覺得那真的很了不起，但有點太夸張了。我認為這對 IBM 的服務來說不是很好。

當你有一個像 Facebook 這樣的地方時，人工智能在組織內(nèi)的使用率是非常驚人的。目前，F(xiàn)acebook 內(nèi)部使用人工智能的開發(fā)者數(shù)量每年都翻一番以上。所以，我們認為它是有用的，但不要夸大它。我不需要夸大其詞來證明我的團隊的存在。

Will Knight：Facebook 有時很難將人工智能研究成果轉(zhuǎn)化為商業(yè)上的成功，你認為如何更有效地將理論研究與工程實踐聯(lián)系起來？

Jerome Pesenti：當你開始談論技術(shù)轉(zhuǎn)換時，這意味著你已經(jīng)輸?shù)袅诉@場戰(zhàn)斗。你不能只選擇一些研究，而要求其他人嘗試將其投入生產(chǎn)。你不能把它扔過籬笆。最好的方法是讓人們和更接近產(chǎn)品的人一起做基礎(chǔ)研究，確保一系列項目隨著時間的推移而成熟，并將人們聚集到一起，而不是讓科學家站在一邊獨自研究，這確實是一個組織上的挑戰(zhàn)。

Will Knight：那么，近期 Facebook 會推出哪些新的人工智能產(chǎn)品呢？

Jerome Pesenti：如今，人工智能在 Facebook 中的核心用途是讓平臺對用戶來說更安全，并確保我們向用戶展示的內(nèi)容對他們有價值。但我們正在做的一些最令人興奮的事情是試圖創(chuàng)造只有擁有人工智能才可能有的新體驗。增強現(xiàn)實和虛擬現(xiàn)實都只能存在于人工智能中。我們最近看到，你可以用手與虛擬現(xiàn)實互動，這需要對耳機周圍的東西有一個非常微妙的了解。它只使用一個相機解析整個場景，這樣你就可以用你的手作為控制器。我也相信讓人們更有創(chuàng)造力的潛力是巨大的。你可以在 TikTok 這樣的競品中看到這一點。許多人通過與媒體自然互動而不是成為專家、視頻編輯或藝術(shù)家來創(chuàng)作視頻和內(nèi)容。

Will Knight：deepfake 背后的技術(shù)可能會達到這樣的創(chuàng)造性目的嗎？

Jerome Pesenti：當然。我們需要看到積極和消極兩個方面。人工智能讓人們更有創(chuàng)造力的潛力還很大。但正如我們在過去幾年中所了解到的，我們需要負責任地使用這項技術(shù)，需要在意外發(fā)生之前意識到這一點。

Will Knight：你對人工智能出口管制有什么看法？這項技術(shù)能被限制嗎？會對這一領(lǐng)域有所傷害嗎？

Jerome Pesenti：我個人的意見是，這似乎是非常不切實際的。不過，除此之外，它還可能對研究進展產(chǎn)生負面影響，迫使研究工作的可重復性降低。我相信開放性和協(xié)作性對于推動人工智能的發(fā)展是很重要的，限制基礎(chǔ)研究成果的出版或開源可能會減緩該領(lǐng)域的進展。

也就是說，無論是否實施了此類控制，作為負責任的研究人員，我們應該繼續(xù)考慮潛在誤用的風險，以及如何幫助減輕這些風險，同時仍然確保我們推進的人工智能盡可能開放和可復制。

via：https://www.wired.com/story/facebooks-ai-says-field-hit-wall/

雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。