0
DeepMind的創(chuàng)始人Demis Hassabis加入AI行業(yè)大辯論來分享新觀點了。
隨著AI技術(shù)的突飛猛進，行內(nèi)人對AI的看法也越來越多樣復(fù)雜。前有馬斯克四處宣揚“AI可能使人類滅亡”，后有Andrew Ng嗤之以鼻“擔(dān)心超級智能AI的人就像是在擔(dān)心火星人口太多”，還有奧特曼堅持“加速AI研發(fā)才能解決全球挑戰(zhàn)”，李飛飛反復(fù)強調(diào)“必須確保AI為人服務(wù)”。
各種論點爭得熱火朝天，Demis Hassabis也閃亮登場，發(fā)表了自己的觀點。
Hassabis冷靜地指出，現(xiàn)在有些初創(chuàng)公司和投資者已經(jīng)被 AI 的短期潛力沖昏了頭腦。雖然AI 未來的發(fā)展?jié)摿o限，但目前那些聽起來像科幻電影的目標(biāo)，其實大多只是噱頭，技術(shù)遠未成熟。要識別這些 AI 公司宣傳是真是假，Hassabis 的秘訣是：了解他們的技術(shù)背景和趨勢，盡量遠離那些盲目跟風(fēng)的公司。
面對當(dāng)前的 AI 熱潮，Hassabis心情復(fù)雜。一方面，他懷念A(yù)I尚未受到太多關(guān)注時的寧靜，沒有那么多喧囂和干擾；另一方面，他也認(rèn)可如今的關(guān)注推動了 AI 在現(xiàn)實世界中的積極應(yīng)用。
雖然Hassabis支持 AI 開源，但也清醒地意識到這背后的巨大風(fēng)險，特別是 AI 被用作不良目的的潛在威脅。他提出了一個折中方案：延遲發(fā)布開源模型，讓它們落后于前沿技術(shù)一兩年，以減少安全隱患。
Hassabis特別強調(diào)了對AGI和AI管控的擔(dān)憂。他認(rèn)為開源模型一旦發(fā)布便無法收回，需更嚴(yán)格的安全措施和測試環(huán)境。他提議開發(fā) AI 助手以監(jiān)控和測試下一代 AI 系統(tǒng)，同時建議在發(fā)布 AI 系統(tǒng)時附帶使用說明，幫助用戶理解其功能和風(fēng)險。
雖然也有擔(dān)憂，但Hassabis對實現(xiàn)AGI的未來抱有極其樂觀的態(tài)度。他相信，AGI將幫助人類解決重大科學(xué)難題，通過幫助人類治療疾病、開發(fā)清潔能源等方式提升人類社會生活質(zhì)量。Hassabis描繪了一個夢幻的未來場景，“未來的AI將讓我們徹底告別工作，盡情享樂，專注于探索生活的意義?！?/p>
以下是 Demis Hassabis 的播客內(nèi)容，AI 科技評論作了不改原意的整理：
Hannah Fry：我想知道，現(xiàn)在公眾對AI的興趣激增，你的工作是更容易還是更困難？
Demis Hassabis：我認(rèn)為這是一把雙刃劍。我認(rèn)為這更難，因為整個領(lǐng)域都有太多的審查、關(guān)注，而且還有很多噪音。其實，我更喜歡之前關(guān)注的人更少的時候，也許會更專注于科學(xué)。
但這也是好事，因為它表明該技術(shù)已經(jīng)準(zhǔn)備好以許多不同的方式影響現(xiàn)實世界，并以積極的方式影響人們的日常生活。所以我認(rèn)為這也很令人興奮。
Hannah Fry：您對這件事如此迅速地引起公眾的想象力感到驚訝嗎？我的意思是，我猜您預(yù)料到了人們最終會加入到AI行業(yè)。
Demis Hassabis：是的，完全正確，尤其是像我們這些一樣致力于這個工作許多年，甚至幾十年的人。所以我想在某個時候，公眾會意識到這個事實。事實上，每個人都開始意識到AI有多重要。
但看到它真正實現(xiàn)并發(fā)生仍然是相當(dāng)超現(xiàn)實的。我想這是因為聊天機器人和語言模型的出現(xiàn)。每個人都在使用語言，都能理解語言。因此，對于公眾來說，這是一種簡單的辦法來理解并衡量人工智能的發(fā)展方向。
Hannah Fry：我想問你一些關(guān)于炒作的問題。你認(rèn)為我們現(xiàn)在所處的位置，目前（AI）的情況是被夸大了還是低估了？或者它只是大肆宣傳，也許方向上發(fā)生了錯誤。
Demis Hassabis：是的，我認(rèn)為更多的是后者。所以我認(rèn)為在短期內(nèi)，這是過度炒作。人們聲稱可以做各種不能做的事情。有各種各樣的初創(chuàng)公司和風(fēng)險投資公司在追逐尚未準(zhǔn)備好的瘋狂的想法。
另一方面，我認(rèn)為它仍然被低估了。我認(rèn)為即使是現(xiàn)在認(rèn)為它仍然被低估了，或者說甚至現(xiàn)在都還沒有得到足夠的重視。當(dāng)我們進入AGI時代和后AGI時代會發(fā)生什么？我仍然覺得人們還不太了解這將會是多么的巨大（的一件事）。因此也沒有理解其責(zé)任。
所以兩者都有，真的。目前短期內(nèi)它有點被夸大了，我們正在經(jīng)歷這個循環(huán)。
Hannah Fry：不過我想就所有這些潛在的初創(chuàng)公司和風(fēng)險投資公司等而言，正如你所說，你在這些領(lǐng)域已經(jīng)工作和生活了幾十年，有足夠的能力去辨別哪些初創(chuàng)公司有現(xiàn)實的目標(biāo)，哪些不是。但是對其他人來說，他們要如何區(qū)分什么是真實的，什么是虛假的？
Demis Hassabis：我認(rèn)為顯然你必須進行完全的技術(shù)調(diào)查，對技術(shù)和最新趨勢有一定的了解。
我認(rèn)為也可以看看說這些話的人的背景，他們的技術(shù)背景如何，他們是從去年才加入AI領(lǐng)域的嗎？可能他們?nèi)ツ暝谧黾用茇泿?。這些可能是他們在跟風(fēng)追隨潮流的一些線索。當(dāng)然，這并不意味著他們不會有一些好的想法。
很多人都會這樣做，但我們應(yīng)該說，這更像是彩票。
我認(rèn)為當(dāng)一個地方突然受到大量關(guān)注時，這種情況總是會發(fā)生的，金錢也會隨之而來。每個人都感覺自己錯過了什么。這創(chuàng)造了一種機會主義的環(huán)境，這與我們這些幾十年來一直專注于深度技術(shù)、深度科學(xué)的人相反。我認(rèn)為這正是我們需要的理想方式，尤其是當(dāng)我們越來越接近AGI時。
Hannah Fry：我想到的下一個問題是關(guān)于開源的。因為當(dāng)事情掌握在人們手中時，正如你所提到的，真正非凡的事情可能會發(fā)生。我知道Deep Mind過去有很多開源項目，但現(xiàn)在隨著我們的前進，這種情況似乎略有改變。所以請告訴我您對開源的立場。
Demis Hassabis：正如你所知，我是開源和開放科學(xué)的大力支持者。
我們已經(jīng)放棄并發(fā)布了我們幾乎所做的所有事情，包括transformers和AlphaGo之類的東西。我們在Nature和Science上發(fā)表了所有的東西。正如我們上次介紹的那樣，AlphaGo是開源的。這是不錯的選擇，你會覺得它是絕對正確的。
這也是所有工作都能順利進行的原因，因為通過共享信息，技術(shù)和科學(xué)才能盡快進步。所以，我們幾乎總是這樣做，這是一個普遍的好處。
科學(xué)就是這樣運作的。例外的情況是，當(dāng)你在面對AGI和強大的AI時（確實會陷入這種情況），就是當(dāng)你擁有雙重用途的技術(shù)時。你想要讓所有的使用案例都從好的方向出發(fā)，所有真正的科學(xué)家都能善意地采取行動，讓技術(shù)建立在想法之上，對想法進行批判等等。這樣，這才是社會進步最快的方式。
但問題是，如何同時限制不良分子的訪問權(quán)限，他們會拿走相同的系統(tǒng)，將它們重新用于不良目的，把它們?yōu)E用在武器系統(tǒng)等地方。這些通用系統(tǒng)可以像這樣被重新調(diào)整用途。
現(xiàn)在還好，因為我認(rèn)為現(xiàn)在的系統(tǒng)沒有那么強大。但是在兩到四年的時間里，特別是當(dāng)你開始使用智能體系統(tǒng)或者用AI做一些行為時，那么我認(rèn)為，如果它被某人或甚至是流氓國家濫用，可能會造成嚴(yán)重的傷害。而且我沒有辦法解決這個問題。
但作為一個社群，我們需要思考這對開源意味著什么？或許我們需要對前沿模型進行更多的檢查，然后只有在它們發(fā)布一兩年后，才能開源。
這就是我們正在遵循的模式，因為我們有自己的Gemini開放模型，名為Gemma。因為它們更小，所以它們不是前沿模型。它們的功能對開發(fā)人員仍然非常有用。因為它們有更少的參數(shù)數(shù)量，很容易在筆記本電腦上運行。雖然它們不是前沿模型，但它們只是不如最新的，Gemini 1.5那么強大。
所以我認(rèn)為這可能是我們最終會采取的方法，我們將擁有開源模型，但它們會落后于最先進的模型，也許落后一年，這樣我們就可以真正評估通過以下方式進行公開評估：用戶了解這些模型可以做什么，前沿模型可以做什么。
Hannah Fry：我想你真的可以測試出隨機的邊界在哪里。
Demis Hassabis：是的，我們會看到邊界在哪里。開源的問題是，如果出了問題，你就想不起來了。
而在閉源模型方面，如果你的操作者開始以不良方式用它，你只需要像關(guān)閉水龍頭一樣關(guān)閉它即可。在特殊情況下，你可以把它關(guān)閉。
但你一旦開源了某些東西，你就無法收回了。所以這是一個單向門。所以當(dāng)你這樣做時，你應(yīng)該非常確定。
Hannah Fry：但是在一個模型中有包含AGI的可能性嗎？
Demis Hassabis：這是一個完全獨立的問題。我認(rèn)為當(dāng)你開始談?wù)搹姶蟮腁GI級別的時候，我們現(xiàn)在不知道該怎么做。
Hannah Fry：那關(guān)于中間的過渡呢？
Demis Hassabis：關(guān)于這一點，我認(rèn)為我們對于如何做到這一點有很好的想法。其中之一就是一個類似安全沙盒的東西。我想在游戲環(huán)境或尚未完全聯(lián)網(wǎng)的互聯(lián)網(wǎng)版本中測試智能體行為。在這個領(lǐng)域，我們可能會借鑒金融科技領(lǐng)域的理念，構(gòu)建這類系統(tǒng)。
但是，我們也知道，這并不足以容納 AGI（一種可能比我們更聰明的東西）。所以我認(rèn)為我們必須更好地理解這些系統(tǒng)，這樣才能為人工智能設(shè)計協(xié)議。到那時候，我們就會有更好的辦法來控制它，也有可能使用AI和工具來監(jiān)控下一版本的AI。
Hannah Fry：關(guān)于安全問題，我知道您是2023年由英國政府在布萊切利公園舉行的AI安全峰會的重要參與者。從外界來看，我認(rèn)為很多人只是在說監(jiān)管這個詞，就好像它會自己進來解決一切問題一樣。但是你對于如何構(gòu)建監(jiān)管體系有什么看法？
Demis Hassabis：我認(rèn)為各國政府加快參與其中的速度是件好事。
最近公眾對AI的興趣爆發(fā)的一個好處就是，政府正在關(guān)注這個話題，尤其是英國政府。我認(rèn)為這很棒，我和他們談過很多次，還有美國政府。他們的政府工作人員中有很多非常聰明的人，他們現(xiàn)在已經(jīng)對這項技術(shù)了解得很清楚了。
我也很高興看到英國和美國成立了人工智能安全機構(gòu)，我認(rèn)為許多其他國家也會效仿。我認(rèn)為在AI風(fēng)險變得非常高之前，這些都是我們需要遵守的很不錯的先例和協(xié)議。
這也是一個證明的階段。我認(rèn)為國際合作確實是必要的，最好是圍繞監(jiān)管、安全護欄和部署規(guī)范等方面進行合作。
因為AI是一種數(shù)字技術(shù)，所以很難將它控制在國界內(nèi)。當(dāng)我們開始接近AGI時，我的觀點是你必須這樣做。因為技術(shù)變化如此之快，我們必須非常靈活和輕松地進行監(jiān)管，以便適應(yīng)最新技術(shù)的發(fā)展方向。
如果你在五年前對AI進行監(jiān)管，你監(jiān)管的東西與我們今天看到的完全不同。而且五年后可能會再次不同，這些基于智能體的系統(tǒng)可能是風(fēng)險最高的系統(tǒng)。所以現(xiàn)在我建議加強已經(jīng)存在的領(lǐng)域的現(xiàn)有法規(guī)，比如健康、交通等。
我認(rèn)為可以像之前為互聯(lián)網(wǎng)更新一樣進行實時更新。同時，做一個像簡報一樣的東西，這也可能是我要做的第一件事情。簡報用于確保人們能理解并測試前沿系統(tǒng)。
當(dāng)人們對AI系統(tǒng)的使用變得更加清晰和明確時，就能更好地圍繞這些行為對AI系統(tǒng)進行監(jiān)管。
Hannah Fry：你可以給我們概述一下什么是Grounding嗎？
Demis Hassabis：Grounding是80年代和90年代在特斯拉和麻省理工學(xué)院建立經(jīng)典的AI系統(tǒng)，一些大型邏輯系統(tǒng)，的原因之一。你可以把它想象成一個單詞與其他單詞關(guān)聯(lián)的巨大語言庫。
比如說，“狗有腿”就在這個庫里面。但問題是，如果你給它展示了一張狗的圖片，它根本不知道這些像素的集合指的是那個符號。這就是Grounding問題。
在語言庫里面有一個象征的抽象表達，但是無法確定這個抽象的東西在現(xiàn)實世界真正意味著什么。人們嘗試解決這個問題，但永遠也無法做到完全正確的對應(yīng)。
當(dāng)然，現(xiàn)在的系統(tǒng)不是這樣的，它直接從數(shù)據(jù)中學(xué)習(xí)，所以從某種程度上來說，現(xiàn)在的系統(tǒng)從一開始就建立了這種聯(lián)系。
Hannah Fry：Astra計劃，Google新的通用AI助手項目，可以接收視頻和音頻數(shù)據(jù)。之前你舉了Astra幫你記住眼睛放在哪里的例子，所以我想知道這個產(chǎn)品的定位，是之前的Google眼鏡的一個全新版本嗎？
Demis Hassabis：當(dāng)然，Google在開發(fā)眼鏡型設(shè)備上有著悠久的歷史，可以追溯到2012年，在這方面可以說是遙遙領(lǐng)先的，但他們只是缺少這樣一種技術(shù)。
通過Astra，你能真正理解，一個AI智能體或者說AI助手所看到的一切。所以我們對數(shù)字助理能夠陪伴您并了解您周圍的世界感到非常興奮。當(dāng)你使用它時，它真的能給你提供非常自然的體驗。
Hannah Fry：大語言模型還有一段路要走，這些模型還不太擅長一些事情。
Demis Hassabis：是的。實際上這就是現(xiàn)在主要的爭論。最新的這些模型其實是從五六年前發(fā)明的技術(shù)中誕生的。問題是，它們?nèi)匀挥泻芏鄦栴}需要改進。我們都知道，大語言模型會產(chǎn)生幻覺，還不擅長做規(guī)劃。
Hannah Fry：什么意義上的規(guī)劃？
Demis Hassabis：長期規(guī)劃。他們無法解決問題，尤其是一些長期的事情。如果你給它一個目標(biāo)，它們其實無法真正為你在世界上采取行動。它們很像被動的問答系統(tǒng)。你向它提出問題，然后它會給你某種回應(yīng)，但它們無法為你解決問題。
你可能會想象這樣一個場景。你對AI助手說給我計劃意大利的假期，預(yù)訂好所有的餐館和博物館。它知道你喜歡什么，隨后它就會幫你處理好機票等所有東西。
其實現(xiàn)在的AI智能體做不到這樣的事情。但我認(rèn)為這是在下一個時代可以實現(xiàn)的，我稱之為“基于智能體的系統(tǒng)”或“具有類似智能體行為的系統(tǒng)”。這是我們所擅長的東西。
這也是我們從過去做游戲智能體AlphaGo開始就一直想要做的事情，我們正在做的很多事情都是將這些我們出名的工作成果與新的多模態(tài)模型結(jié)合起來。我認(rèn)為這將會是下一代系統(tǒng)，你可以把它看作是Alpha和Gemini的結(jié)合。
Hannah Fry：是的，我猜AlphaGo非常擅長做規(guī)劃？
Demis Hassabis：沒錯，它非常擅長做規(guī)劃，當(dāng)然僅限于游戲領(lǐng)域。我們還需要把它推廣到日常工作和語言的一般領(lǐng)域。
Hannah Fry：在你描述的未來圖景中，如果我們到了AGI的階段，專注科學(xué)研究的機構(gòu)還存在嗎？
Demis Hassabis：我認(rèn)為是的。在AGI階段，社會、學(xué)術(shù)界、政府和工業(yè)實驗室都會在一起合作進行研究。我認(rèn)為這是我們到達最后階段的唯一途徑。如果是在AGI之后，我認(rèn)為我們可以用它來回答一些物理學(xué)中的原理、現(xiàn)實的本質(zhì)、意識等方面的最基本的問題。
Hannah Fry：你認(rèn)識計算機科學(xué)家Stuart Russell嗎？他告訴我他有點擔(dān)心，一旦我們進入人工智能時代，我們可能會變得像過去的皇家王子一樣，那些從來不需要登上王位或者做任何工作的人，只是過著肆無忌憚的奢華生活而沒有任何目的。
Demis Hassabis：是的，這是一個有趣的問題。它超出了AGI的范圍，更像是人們稱之為ASI的超級AI。
那時候我們應(yīng)該擁有徹底的富足。假設(shè)我們公平公正地分配這些資源，那么我們將有更多的自由來選擇做什么。到那時候，意義將成為一個重大的哲學(xué)問題。我們需要哲學(xué)家，甚至是神學(xué)家，去思考這個問題。
回到我們之前說的炒作，我認(rèn)為即使那些炒作也絕對低估了AI可能帶來的轉(zhuǎn)變。我認(rèn)為在極限范圍內(nèi)會變得特別好。我們將會治愈許多疾病或者說所有的疾病，解決我們的能源問題、氣候問題。
接下來的問題就只是，這有意義嗎？雷峰網(wǎng)雷峰網(wǎng)(公眾號：雷峰網(wǎng))
各位讀者是否贊同Hassabis的觀點呢？歡迎在評論區(qū)分享你對未來AI的設(shè)想~
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
