什么叫「真的理解」？我們對 AI 的要求或許有點過分！

本文作者： Fawn

編輯：幸麗娟

2020-02-13 15:51

導語：怎么評估人類的“理解”，就怎么評估 AI 系統(tǒng)

AI 領(lǐng)域所取得的最新進展給 AI 系統(tǒng)帶來的進步，舉世矚目，但是仍有一些批評者聲稱，即便如此，這些系統(tǒng)仍舊無法實現(xiàn)“真實”、“準確”、“可信賴”的理解。

針對這個問題，機器學習領(lǐng)域的奠基人之一 Thomas G. Dietterich 教授親自撰文詳細地表達了自己的觀點。他指出，“理解”以一種連續(xù)的能力譜而存在，比如大部分人對“水”的理解，可能限于水的一般屬性，而不知道水的導電等屬性，但我們只會認為他們對水的理解不全面，而不會說他們的理解不“真實”、“準確”、“可信賴”。

我們同樣應該以這種態(tài)度來評估 AI 系統(tǒng)。

與此同時，他既不贊成“如今的基于深度學習的系統(tǒng)沒有表現(xiàn)出真正的理解，因此應放棄深度學習”，也反對 “當今基于深度學習的系統(tǒng)已經(jīng)取得了巨大進步，進一步研究它們將‘搞定智能’”，他的觀點具體如何，我們下面具體來看：

什么叫「真的理解」？我們對 AI 的要求或許有點過分！

作為機器學習領(lǐng)域的奠基人之一，Thomas G. Dietterich的研究貢獻主要包括將糾錯輸出編碼應用于多類分類問題，他發(fā)明了多示例學習、層次強化學習MAXQ框架及將非參數(shù)回歸樹整合到概率圖模型中的方法。此外，Dietterich教授也參與撰寫了美國白宮發(fā)布的兩份重磅AI報告：《為人工智能的未來做準備》和《美國國家人工智能研究與發(fā)展策略規(guī)劃》。

一、關(guān)于“理解”之爭

運用“真實”、“準確”、“真正”這類詞意味著“理解”是二元的，即：一個系統(tǒng)要么能“真正”的理解，要么不能。這種思維方式的紕漏在于，人類的理解也是不完整和不完美的。

Thomas G. Dietterich 教授主張“理解”以一種連續(xù)的能力譜而存在。比如，對于“水”這一概念，很多人能想到水的性質(zhì)：潮濕、可飲用、植物必需、遇冷結(jié)冰等等。但同時，很多人并不知道，水也是一種電導體，因此淋浴的時候不能使用吹風機。即便如此，我們也不能說這些人沒有“真實”、“準確”、“真正”地理解 “水”，只能說他們的理解是不全面的。

因此，我們應該以同樣的態(tài)度來評估 AI 系統(tǒng)。現(xiàn)有的系統(tǒng)已表現(xiàn)出某種程度的理解。例如：當我對 Siri 說 “打給 Carol”，而 Siri 也撥出了正確號碼，這能夠表明系統(tǒng)理解了我的指令；當我問 Google “IBM的Deep Blue系統(tǒng)擊敗了誰？”，它回答：“Kasparov”，這也能證實系統(tǒng)理解了我的指令。當然這種理解有一定限度，當我繼續(xù)問 Google：“when？”它就只能給我解釋詞典上關(guān)于“when”的解釋。顯然它沒有把我第二個問題當做對話的一部分。

關(guān)于“理解”的爭論可以追溯到亞里斯多德，而在 Searle的“Chinese Room argument”（無論程序如何聰明或像人類一樣，執(zhí)行程序的數(shù)字計算機都不能表現(xiàn)出“頭腦”，“理解”或“意識”）對于“理解”的認識更為清楚。我堅持主張功能主義，他們以功能上的理解為特征，并根據(jù)它們在產(chǎn)生測量功能中的因果作用來評估大腦或AI系統(tǒng)中各種內(nèi)部結(jié)構(gòu)的貢獻。

從軟件工程的角度來看，功能主義鼓勵我們設(shè)計一系列測試來衡量系統(tǒng)的功能。我們可以問一個系統(tǒng)(或一個人)，如果“我把水冷卻到20度會怎么樣?”或者“如果我在淋浴時使用吹風機會發(fā)生什么?” 然后測試反應。當系統(tǒng)的回答在一定范圍內(nèi)是適當?shù)模覀冋J為系統(tǒng)理解正確；當系統(tǒng)的回答在一定范圍內(nèi)是錯誤的，針對這一點我們已經(jīng)發(fā)現(xiàn)了系統(tǒng)不理解的情況。

為了使系統(tǒng)能夠理解，它必須在不同的概念、狀態(tài)和動作之間建立聯(lián)系。當今的語言翻譯系統(tǒng)可以正確地將英語中的“水”與西班牙語中的“水”連接起來，但是在“水”和“導電體”之間沒有任何聯(lián)系。

二、批評的進步意義

對人工智能最新進展的批評主要來自兩個方面：

第一，圍繞人工智能的炒作（由研究人員、他們工作的組織、甚至政府和資助機構(gòu)制造）已經(jīng)達到了極端的程度。它甚至引發(fā)了“超級智能”或“機器人末日即將來臨”的恐懼。要反駁這種無稽之談，批評是必不可少的。

第二，批評是關(guān)于人工智能技術(shù)未來研究方向以及政府撥款分配的辯論的一部分。一部分批評者是聯(lián)結(jié)主義的倡導者，他們發(fā)展了深度學習并支持繼續(xù)進行這一研究。領(lǐng)一部分批評者倡導基于符號的構(gòu)造和操縱（例如，使用形式邏輯）的AI方法。也有越來越多的社區(qū)主張在混合架構(gòu)中結(jié)合這兩種方法的系統(tǒng)。

批評對于此討論也至關(guān)重要，因為 AI 社區(qū)必須不斷挑戰(zhàn)我們的假設(shè)，并選擇如何投入社會的時間和金錢來促進AI科技的發(fā)展。

然而，Thomas G. Dietterich 教授反對這樣的論點，即“如今的基于深度學習的系統(tǒng)沒有表現(xiàn)出真正的理解，因此應放棄深度學習?！?/p>

他認為，這個論點與 “當今基于深度學習的系統(tǒng)已經(jīng)取得了巨大進步，進一步研究它們將‘搞定智能’”的論點一樣是錯誤的。我們應該繼續(xù)追求聯(lián)結(jié)主義方案，象征主義方案，以及新興的混合方案，因為它們都將繼續(xù)富有成效。

對深度學習的批評已經(jīng)引領(lǐng)了新的方向。特別是，深度學習系統(tǒng)可以在各種基準任務上與人類的表現(xiàn)相匹配，但卻不能推廣到超級的、真正非常相似的任務，這已經(jīng)在機器學習中產(chǎn)生了危機?？茖W家們用一些新的思想諸如學習不變量、發(fā)現(xiàn)因果關(guān)系等模型來回應此類問題。這些思想既適用于符號學習，也適用于聯(lián)結(jié)主義機器學習。

三、專注于功能的進步

我們應該在不涉及“什么才是真正的理解”的爭論的情況下，追求人工智能科學技術(shù)的進步。相反地，Thomas G. Dietterich 教授鼓勵我們將重點放在我們應該在未來 5 年、10年或50年內(nèi)努力實現(xiàn)的系統(tǒng)功能上。

我們應該根據(jù)可以在 AI 系統(tǒng)上執(zhí)行的測試來定義這些功能，以衡量它是否具有這些功能。為此，這些能力必須付諸實施。簡而言之，他指出測試驅(qū)動的AI發(fā)展。這就要求我們將模糊的理解和智力概念轉(zhuǎn)化為具體的、可衡量的能力。這本身就是一個非常有用的練習。

操作測試不必只考慮AI系統(tǒng)的輸入輸出行為。它們還可以檢查產(chǎn)生此行為的內(nèi)部結(jié)構(gòu)（數(shù)據(jù)結(jié)構(gòu)，知識庫等）。

人工智能優(yōu)于神經(jīng)科學的一大優(yōu)勢是，我們可以更輕松地在人工智能系統(tǒng)上進行實驗，以了解和評估其行為。然而，需要注意的是，包括深度學習在內(nèi)的聯(lián)結(jié)主義方法通常會創(chuàng)建難以解釋的內(nèi)部結(jié)構(gòu)，和大腦有些類似。

因此，我們不應該將確保某些結(jié)構(gòu)（例如，符號表示）存在作為研究目標。相反，我們應該專注于所需的行為能力，并詢問內(nèi)部機制如何實現(xiàn)這些能力。例如，要進行成功的對話，每個參與者都必須跟蹤互動的歷史。但是現(xiàn)已有很多方法可以做到這一點，我們不一定要期望在深度學習系統(tǒng)中建立明確的歷史記憶。相反地，僅僅因為我們編寫了一個特定的內(nèi)部結(jié)構(gòu)，也并不意味著它就按我們所希望的那樣運行。Drew McDermott 在他的著名評論《人工智能與自然愚蠢》中詳細討論了這個問題。

四、直面成功與批評

人工智能不斷發(fā)展和批評的浪潮的結(jié)果之一就是所謂的“人工智能效應”，其中人工智能領(lǐng)域被認為是失敗的，因為最先進的系統(tǒng)沒有表現(xiàn)出真正的理解或真正的智慧，其結(jié)果就是AI的成功被忽視，經(jīng)費被取消。

例如，曾經(jīng)有一段時間，下棋或下圍棋被認為是衡量智力的一種標準。但是，1997年，當Deep Blue擊敗Kasparov時，一位著名的人工智能研究人員認為，在國際象棋中擊敗人類已經(jīng)展現(xiàn)出真正的智能，而同時必須解決“卡車倒車的問題”，這涉及將一輛鉸接式半掛車倒進停車位（個人通信）。

實際上，九年前Nguyen和Widrow已經(jīng)使用強化學習解決了這個問題。如今，許多有思想的評論家再次提出新任務，并提出新的必要或充分條件，以聲明系統(tǒng)“可以理解”。

什么叫「真的理解」？我們對 AI 的要求或許有點過分！