導(dǎo)讀：如何讓機(jī)器學(xué)習(xí)從環(huán)境中自主學(xué)習(xí)和思考是科學(xué)家們正努力探索的目標(biāo)。本文的一些想法說不定可以為研究帶來一絲靈感。

注：本文譯自 The Spectator，作者為 Shakir Mohamed 。文中所有觀點(diǎn)均為原作者提出，不代表本網(wǎng)站和本人觀點(diǎn)。Shakir Mohamed 是研究統(tǒng)計(jì)機(jī)器學(xué)習(xí)方面的科學(xué)家。主攻貝葉斯推理，變分推理，深度學(xué)習(xí)，強(qiáng)化學(xué)習(xí)。

認(rèn)知機(jī)器學(xué)習(xí)

機(jī)器學(xué)習(xí)中最不缺的東西就是靈感來源。至少對我來說是這樣的，它使機(jī)器學(xué)習(xí)變成了有價(jià)值且令人興奮的領(lǐng)域。我們從統(tǒng)計(jì)學(xué)方面?zhèn)鹘y(tǒng)的相鄰領(lǐng)域獲取靈感，如信號處理、控制工程、信息理論，和統(tǒng)計(jì)物理。我們的運(yùn)氣一直都很好，且我們可以從很多其它科學(xué)領(lǐng)域獲得更多的靈感，如生物和進(jìn)化系統(tǒng)，以及對其來說重要的東西，認(rèn)知社會學(xué)、心理學(xué)和神經(jīng)科學(xué)。

我以前探索機(jī)器學(xué)習(xí)的重要靈感來源是神經(jīng)科學(xué)、解密預(yù)測所扮演的角色、稀疏性，以及搭建學(xué)習(xí)系統(tǒng)時(shí)的模塊化和互補(bǔ)學(xué)習(xí)。除了學(xué)習(xí)系統(tǒng)外，也有其他技能可以在更高層次的對其進(jìn)行更好地理解，從認(rèn)知科學(xué)的角度進(jìn)行研究。

在該系列中我想探索的主題有四個(gè)，且我認(rèn)為是其中最重要的探索是：

1.因果推理。我們怎樣才可以建立能從因果和影響中學(xué)習(xí)，并檢測因果關(guān)系的機(jī)器學(xué)習(xí)系統(tǒng)。人類在這方面的能力非常強(qiáng)，我們將探討認(rèn)知系統(tǒng)中因果感應(yīng)，反事實(shí)推理和因果學(xué)習(xí)的方方面面。在機(jī)器學(xué)習(xí)中我們可以將其聯(lián)想為影響圖中的推理，和有向非循環(huán)圖中的推理。

2.科學(xué)家一樣的代理。對于人類來說，我們在不斷探索和學(xué)習(xí)周圍的事物。我們產(chǎn)生假設(shè)，驗(yàn)證它，并從中學(xué)習(xí)。賦予機(jī)器學(xué)習(xí)這樣的偵查能力，它將引領(lǐng)我們檢驗(yàn)溯因推理，主動學(xué)習(xí)，貝葉斯優(yōu)化，和 Bandits 。

3.認(rèn)知語義。人類是如何學(xué)習(xí)意義并建立知識、對象和關(guān)系的概念。我們可以將理解從認(rèn)知科學(xué)結(jié)合到統(tǒng)計(jì)學(xué)關(guān)系 AI，更為廣泛的關(guān)系學(xué)習(xí)、模塊和社區(qū)發(fā)現(xiàn)。

4.形成思想的理論。人類身處社會，并從中學(xué)習(xí)和獲取知識。我們的認(rèn)知工具包括歸因論、意向代理論和理論論。我們可以將其與經(jīng)濟(jì)學(xué)，博弈論和多智能體系統(tǒng)中廣泛的思維結(jié)合起來。

該系列大體框架的描述

為了更好地描述認(rèn)知的概念，以及它們與機(jī)器學(xué)習(xí)之間的關(guān)系，我將把討論分成兩部分。第一部分將處理認(rèn)知科學(xué)，并提供以下描述：

→  認(rèn)知觀察。首先，顯而易見的是我們會觀察眾多認(rèn)知任務(wù)中的一個(gè)，并從人生經(jīng)驗(yàn)和觀察到的東西找到證據(jù)。

→  認(rèn)知靈感。我們將精煉認(rèn)知的證據(jù)以形成認(rèn)知原則，這也將是研究機(jī)器學(xué)習(xí)系統(tǒng)的啟示之一。

第二部分將探討機(jī)器學(xué)習(xí)，這一塊我將使用模型推理算法的框架，這也正是我在每一篇博客文章中慣用的形式：

→  概率模型。我們用屬性具體化概率模型，結(jié)構(gòu)化假設(shè)出我們認(rèn)為是該問題的最佳描述，和最期望看到結(jié)果的原始信息。

→ 推理原則。模型的選擇、假設(shè)的類型、近似、計(jì)算和精度，限制了我們必須有效的選擇推理原則，我們用其連接模型中所觀察的具體化數(shù)據(jù)

→ 算法。任何選擇的模型和推理都可以用許多不同的方式實(shí)現(xiàn)，描述特定建筑組件的算法也一樣，所使用的計(jì)算類型，以及如何利用計(jì)算平臺。

現(xiàn)存的認(rèn)知框架

我將使用的描述框架簡單的結(jié)合了認(rèn)知科學(xué)和機(jī)器學(xué)習(xí)，以方便對其進(jìn)行描述。但認(rèn)知科學(xué)有著豐富的概念框架，它有助于理解不同的認(rèn)知現(xiàn)象。其中有三個(gè)框架總能提供靈感：

1.分級認(rèn)知結(jié)構(gòu)

在1976年，Newell 和 Simon 通過三級層次解密了這種復(fù)雜的認(rèn)知過程，它們被稱為分級結(jié)構(gòu)。其三級結(jié)構(gòu)是：

1.知識層。通過推動目標(biāo)和分析實(shí)現(xiàn)所需要的知識庫解釋代理的行為。

2.象征層。代理的知識和目標(biāo)將被編碼到象征結(jié)構(gòu)中，它可以用不同的方式連接，并操縱以實(shí)現(xiàn)目標(biāo)。

3.物質(zhì)層。象征層結(jié)構(gòu)和它們的操縱被放入到物理結(jié)構(gòu)中。

2.Marr的分析層次

Marr's levels 的影響力非常大，且我發(fā)現(xiàn)在探索神經(jīng)科學(xué)與機(jī)器學(xué)習(xí)之間的聯(lián)系時(shí)，它非常有效。Marr's levels 與 Newell 和 Simon 的理論非常相似：

1.計(jì)算。處理需要通過代理來實(shí)現(xiàn)的高層次的任務(wù)。

2.算法。指定如何解決計(jì)算問題。

3.實(shí)施。確定的解決方案必須可以在大腦中實(shí)現(xiàn)。

3.Sun的現(xiàn)象學(xué)層次

該框架主要集中于認(rèn)知現(xiàn)象而不只是個(gè)框架，并鼓舞我們從整體上在物理和社會學(xué)兩個(gè)層次思考代理和其環(huán)境之間的關(guān)系。我們可以使用四種現(xiàn)象的層次結(jié)構(gòu)：

1.社會學(xué)。集體行為代理非常很重要，該層次解釋了代理之間的關(guān)系和社會文化進(jìn)程。

2.心理學(xué)。重點(diǎn)是個(gè)體代理的行為、信念、知識、概念和它們擁有的技能。

3.成分學(xué)。認(rèn)知功能由幾個(gè)組件組成。我們可以指定一個(gè)認(rèn)知結(jié)構(gòu)（例如，ACT-R，CLARION,，NEF），計(jì)算范式（例如，符號，聯(lián)結(jié)，貝葉斯），和可以考慮到的潛在生物約束。

4.生理學(xué)。實(shí)現(xiàn)生物基質(zhì)中任何確定的組件。

還有其他的框架，抽象的認(rèn)知結(jié)構(gòu)和合理分析也很常用。

結(jié)語

認(rèn)知科學(xué)是一大市場，我們可以把機(jī)器學(xué)習(xí)和統(tǒng)計(jì)結(jié)合到神經(jīng)科學(xué)，甚至是哲學(xué)。還有很多其它的東西，我希望在這一系列的過程中，可用提煉出很多的想法，以作為未來機(jī)器學(xué)習(xí)系統(tǒng)的強(qiáng)大靈感源泉。

Via：The Spectator

推薦閱讀：

什么是機(jī)器學(xué)習(xí)？為什么它如此重要？

AI 熱潮注定會失??？機(jī)器學(xué)習(xí)智能才是王道？

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。