丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗,強烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預覽,將在時失效
人工智能學術(shù) 正文
發(fā)私信給Fawn
發(fā)送

0

什么叫「真的理解」?我們對 AI 的要求或許有點過分!

本文作者: Fawn 編輯:幸麗娟 2020-02-13 15:51
導語:怎么評估人類的“理解”,就怎么評估 AI 系統(tǒng)

AI 領(lǐng)域所取得的最新進展給 AI 系統(tǒng)帶來的進步,舉世矚目,但是仍有一些批評者聲稱,即便如此,這些系統(tǒng)仍舊無法實現(xiàn)“真實”、“準確”、“可信賴”的理解。

針對這個問題,機器學習領(lǐng)域的奠基人之一 Thomas G. Dietterich 教授親自撰文詳細地表達了自己的觀點。他指出,“理解”以一種連續(xù)的能力譜而存在,比如大部分人對“水”的理解,可能限于水的一般屬性,而不知道水的導電等屬性,但我們只會認為他們對水的理解不全面,而不會說他們的理解不“真實”、“準確”、“可信賴”。

我們同樣應該以這種態(tài)度來評估 AI 系統(tǒng)。

與此同時,他既不贊成“如今的基于深度學習的系統(tǒng)沒有表現(xiàn)出真正的理解,因此應放棄深度學習”,也反對 “當今基于深度學習的系統(tǒng)已經(jīng)取得了巨大進步,進一步研究它們將‘搞定智能’”,他的觀點具體如何,我們下面具體來看:

什么叫「真的理解」?我們對 AI 的要求或許有點過分!

作為機器學習領(lǐng)域的奠基人之一,Thomas G. Dietterich的研究貢獻主要包括將糾錯輸出編碼應用于多類分類問題,他發(fā)明了多示例學習、層次強化學習MAXQ框架及將非參數(shù)回歸樹整合到概率圖模型中的方法。此外,Dietterich教授也參與撰寫了美國白宮發(fā)布的兩份重磅AI報告:《為人工智能的未來做準備》和《美國國家人工智能研究與發(fā)展策略規(guī)劃》。

一、關(guān)于“理解”之爭

運用“真實”、“準確”、“真正”這類詞意味著“理解”是二元的,即:一個系統(tǒng)要么能“真正”的理解,要么不能。這種思維方式的紕漏在于,人類的理解也是不完整和不完美的。

Thomas G. Dietterich 教授主張“理解”以一種連續(xù)的能力譜而存在。比如,對于“水”這一概念,很多人能想到水的性質(zhì):潮濕、可飲用、植物必需、遇冷結(jié)冰等等。但同時,很多人并不知道,水也是一種電導體,因此淋浴的時候不能使用吹風機。即便如此,我們也不能說這些人沒有“真實”、“準確”、“真正”地理解 “水”,只能說他們的理解是不全面的。

因此,我們應該以同樣的態(tài)度來評估 AI 系統(tǒng)。現(xiàn)有的系統(tǒng)已表現(xiàn)出某種程度的理解。例如:當我對 Siri 說 “打給 Carol”,而 Siri 也撥出了正確號碼,這能夠表明系統(tǒng)理解了我的指令;當我問 Google “IBM的Deep Blue系統(tǒng)擊敗了誰?”,它回答:“Kasparov”,這也能證實系統(tǒng)理解了我的指令。當然這種理解有一定限度,當我繼續(xù)問 Google:“when?”它就只能給我解釋詞典上關(guān)于“when”的解釋。顯然它沒有把我第二個問題當做對話的一部分。

關(guān)于“理解”的爭論可以追溯到亞里斯多德,而在 Searle的“Chinese Room argument”(無論程序如何聰明或像人類一樣,執(zhí)行程序的數(shù)字計算機都不能表現(xiàn)出“頭腦”,“理解”或“意識”)對于“理解”的認識更為清楚。我堅持主張功能主義,他們以功能上的理解為特征,并根據(jù)它們在產(chǎn)生測量功能中的因果作用來評估大腦或AI系統(tǒng)中各種內(nèi)部結(jié)構(gòu)的貢獻。

從軟件工程的角度來看,功能主義鼓勵我們設(shè)計一系列測試來衡量系統(tǒng)的功能。我們可以問一個系統(tǒng)(或一個人),如果“我把水冷卻到20度會怎么樣?”或者“如果我在淋浴時使用吹風機會發(fā)生什么?” 然后測試反應。當系統(tǒng)的回答在一定范圍內(nèi)是適當?shù)模覀冋J為系統(tǒng)理解正確;當系統(tǒng)的回答在一定范圍內(nèi)是錯誤的,針對這一點我們已經(jīng)發(fā)現(xiàn)了系統(tǒng)不理解的情況。

為了使系統(tǒng)能夠理解,它必須在不同的概念、狀態(tài)和動作之間建立聯(lián)系。當今的語言翻譯系統(tǒng)可以正確地將英語中的“水”與西班牙語中的“水”連接起來,但是在“水”和“導電體”之間沒有任何聯(lián)系。

二、批評的進步意義

對人工智能最新進展的批評主要來自兩個方面:

第一,圍繞人工智能的炒作(由研究人員、他們工作的組織、甚至政府和資助機構(gòu)制造)已經(jīng)達到了極端的程度。它甚至引發(fā)了“超級智能”或“機器人末日即將來臨”的恐懼。要反駁這種無稽之談,批評是必不可少的。

第二,批評是關(guān)于人工智能技術(shù)未來研究方向以及政府撥款分配的辯論的一部分。一部分批評者是聯(lián)結(jié)主義的倡導者,他們發(fā)展了深度學習并支持繼續(xù)進行這一研究。領(lǐng)一部分批評者倡導基于符號的構(gòu)造和操縱(例如,使用形式邏輯)的AI方法。也有越來越多的社區(qū)主張在混合架構(gòu)中結(jié)合這兩種方法的系統(tǒng)。

批評對于此討論也至關(guān)重要,因為 AI 社區(qū)必須不斷挑戰(zhàn)我們的假設(shè),并選擇如何投入社會的時間和金錢來促進AI科技的發(fā)展。

然而,Thomas G. Dietterich 教授反對這樣的論點,即“如今的基于深度學習的系統(tǒng)沒有表現(xiàn)出真正的理解,因此應放棄深度學習?!?/p>

他認為,這個論點與 “當今基于深度學習的系統(tǒng)已經(jīng)取得了巨大進步,進一步研究它們將‘搞定智能’”的論點一樣是錯誤的。我們應該繼續(xù)追求聯(lián)結(jié)主義方案,象征主義方案,以及新興的混合方案,因為它們都將繼續(xù)富有成效。

對深度學習的批評已經(jīng)引領(lǐng)了新的方向。特別是,深度學習系統(tǒng)可以在各種基準任務上與人類的表現(xiàn)相匹配,但卻不能推廣到超級的、真正非常相似的任務,這已經(jīng)在機器學習中產(chǎn)生了危機??茖W家們用一些新的思想諸如學習不變量、發(fā)現(xiàn)因果關(guān)系等模型來回應此類問題。這些思想既適用于符號學習,也適用于聯(lián)結(jié)主義機器學習。

三、專注于功能的進步

我們應該在不涉及“什么才是真正的理解”的爭論的情況下,追求人工智能科學技術(shù)的進步。相反地,Thomas G. Dietterich 教授鼓勵我們將重點放在我們應該在未來 5 年、10年或50年內(nèi)努力實現(xiàn)的系統(tǒng)功能上。

我們應該根據(jù)可以在 AI 系統(tǒng)上執(zhí)行的測試來定義這些功能,以衡量它是否具有這些功能。為此,這些能力必須付諸實施。簡而言之,他指出測試驅(qū)動的AI發(fā)展。這就要求我們將模糊的理解和智力概念轉(zhuǎn)化為具體的、可衡量的能力。這本身就是一個非常有用的練習。

操作測試不必只考慮AI系統(tǒng)的輸入輸出行為。它們還可以檢查產(chǎn)生此行為的內(nèi)部結(jié)構(gòu)(數(shù)據(jù)結(jié)構(gòu),知識庫等)。

人工智能優(yōu)于神經(jīng)科學的一大優(yōu)勢是,我們可以更輕松地在人工智能系統(tǒng)上進行實驗,以了解和評估其行為。然而,需要注意的是,包括深度學習在內(nèi)的聯(lián)結(jié)主義方法通常會創(chuàng)建難以解釋的內(nèi)部結(jié)構(gòu),和大腦有些類似。

因此,我們不應該將確保某些結(jié)構(gòu)(例如,符號表示)存在作為研究目標。相反,我們應該專注于所需的行為能力,并詢問內(nèi)部機制如何實現(xiàn)這些能力。例如,要進行成功的對話,每個參與者都必須跟蹤互動的歷史。但是現(xiàn)已有很多方法可以做到這一點,我們不一定要期望在深度學習系統(tǒng)中建立明確的歷史記憶。相反地,僅僅因為我們編寫了一個特定的內(nèi)部結(jié)構(gòu),也并不意味著它就按我們所希望的那樣運行。Drew McDermott 在他的著名評論《人工智能與自然愚蠢》中詳細討論了這個問題。

四、直面成功與批評

人工智能不斷發(fā)展和批評的浪潮的結(jié)果之一就是所謂的“人工智能效應”,其中人工智能領(lǐng)域被認為是失敗的,因為最先進的系統(tǒng)沒有表現(xiàn)出真正的理解或真正的智慧,其結(jié)果就是AI的成功被忽視,經(jīng)費被取消。

例如,曾經(jīng)有一段時間,下棋或下圍棋被認為是衡量智力的一種標準。但是,1997年,當Deep Blue擊敗Kasparov時,一位著名的人工智能研究人員認為,在國際象棋中擊敗人類已經(jīng)展現(xiàn)出真正的智能,而同時必須解決“卡車倒車的問題”,這涉及將一輛鉸接式半掛車倒進停車位(個人通信)。

實際上,九年前Nguyen和Widrow已經(jīng)使用強化學習解決了這個問題。如今,許多有思想的評論家再次提出新任務,并提出新的必要或充分條件,以聲明系統(tǒng)“可以理解”。

什么叫「真的理解」?我們對 AI 的要求或許有點過分!

同時,人工智能研究與開發(fā)正在提供功能越來越強大的系統(tǒng),這些系統(tǒng)可以為社會帶來價值。人工智能研究人員為人工智能的成功正名,同時也承認了人工智能的缺點,這對學術(shù)誠信和持續(xù)的資助都很重要。

Thomas G. Dietterich 教授指出,我們必須遏制圍繞 AI 新進展的炒作,我們必須客觀地衡量 AI 系統(tǒng)在哪些方面了解用戶(是否了解用戶)、它們的目標,以及他們操作的更廣泛的真實世界。

“讓我們不要再認為人工智能的成功是虛假的、不真實的,讓我們繼續(xù)以誠實和富有成效的自我批評向前邁進?!?nbsp;雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)

via  https://medium.com/@tdietterich/what-does-it-mean-for-a-machine-to-understand-555485f3ad40 

雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。

什么叫「真的理解」?我們對 AI 的要求或許有點過分!

分享:
相關(guān)文章

知情人士

當月熱門文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說