0
| 本文作者： 夏睿 | 2016-11-02 21:10 |
編者按：福布斯記者 Gll Press 近日參加了 O‘Reilly 人工智能大會。以下是他從人工智能頂級專家的演講中提取出的 12 個觀點?；卮鹆巳斯ぶ悄苁鞘裁?、發(fā)展過程遇到何種困難、對人們產(chǎn)生了什么影響、未來方向在哪等多個問題。文章原標(biāo)題為《12 Observations About Artificial Intelligence From The O'Reilly AI Conference》，以下為雷鋒網(wǎng)老呂IO，夏睿編譯。未經(jīng)許可不得轉(zhuǎn)載。
在剛剛開幕的 O’Reilly AI 大會上，來自 39 家機(jī)構(gòu)的研發(fā)人員和 66 位人工智能從業(yè)者對 AI 行業(yè)現(xiàn)狀做了詳細(xì)陳述。其中包括聊天機(jī)器人、深度學(xué)習(xí)、自動駕駛、表情識別、自動化、新的商業(yè)機(jī)會和AI在醫(yī)療應(yīng)用等。
自從 1993 年創(chuàng)辦以來，O’Reilly AI 大會一直是獲取該領(lǐng)域一手資訊的最佳渠道。下面，我們就來共同分享本次大會的 12 個重要見聞。
1、AI 是一個黑箱：“我們不知道它將走向何方”
谷歌研究部門主管 Peter Norvig 稱 AI 與傳統(tǒng)軟件不同，這種由機(jī)器學(xué)習(xí)產(chǎn)出的事物并非簡單的代碼，它更像是一個黑箱，我們大致掌握了其發(fā)展方向，但未來它將走向何方依然是個未知數(shù)。
Tim O’Reilly 在《 21 世紀(jì)重大問題：你相信誰的黑箱？》一書中寫道：“大多對社會產(chǎn)生重要影響的算法都是黑箱，它們神秘到連制造者都難以理解，因此信任是發(fā)展的關(guān)鍵。我們應(yīng)該學(xué)會在不知道其工作原理的情況下對算法進(jìn)行公正的評估。
O’Reilly 為我們推薦了四種對待算法的方式，核心原則為“信任，但要檢查”的原則。它們分別是：1. 即使知道了期望結(jié)果，但旁觀者依舊可以進(jìn)行檢查；2. 我們應(yīng)該學(xué)會定義“成功”；3. 算法開發(fā)者的目標(biāo)應(yīng)與用戶保持一致；4. 算法應(yīng)幫助開發(fā)者和用戶做出更好的長期決策。
2、AI 不是個簡單活：“有時我們想要土豆，結(jié)果卻造出了紅薯”
會上還出了個搞笑的小插曲，在 Allen 人工智能研究所 CEO Oren Etzioni 準(zhǔn)備用投影做演示的時候，投影卻不爭氣得壞掉了。Etzioni 打趣說道：“我們連個投影都搞不定，怎么去研究 AI 呢？”
解決了技術(shù)問題后，Etzioni 開始列舉研發(fā)機(jī)器的困難，其中當(dāng)然包括會展的主題——智能機(jī)器。舉例來說，“人們需要呼吸空氣”是個簡短的語句，但要想讓這句話從智能機(jī)器嘴里說出來可是難上加難。
Etzioni 原本是華盛頓大學(xué)的終身教授，但最終卻毅然決然投身微軟創(chuàng)始人保羅·艾倫投資的艾倫人工智能研究所，其目標(biāo)就是能讓 AI 理解語言或圖片。他認(rèn)為深度學(xué)習(xí)很有用，但現(xiàn)在能力有限。另外他列出的 AI 挑戰(zhàn)清單也被著名深度學(xué)習(xí)研究人員 Yann LeCun 公之于眾。
LeCun 是紐約大學(xué)的教授，同時兼任 Facebook 的 AI 研究主管。他最擅長的工作是將深度學(xué)習(xí)技術(shù)應(yīng)用在實際問題中。LeCun 稱每天上傳至各大社交網(wǎng)站的圖片高達(dá) 10-15 億張，而這些圖片會迅速流入兩個卷積型的神經(jīng)網(wǎng)絡(luò)。其中一個神經(jīng)網(wǎng)絡(luò)負(fù)責(zé)識別圖中的物體，另一個則負(fù)責(zé)識別人物。視頻處理過程與之類似。
在 LeCun 眼中，機(jī)器要想進(jìn)化出真正的智能系統(tǒng)就必須“把整個世界拷貝拷貝下來，裝進(jìn)計算機(jī)大腦。同時它還要學(xué)會控制自己的行動，并預(yù)測行為對世界可能產(chǎn)生的影響。”要想實現(xiàn)這一目標(biāo)，機(jī)器需要理解世界運行的邏輯并儲備大量背景知識，同時它還必須時刻感受世界的變化，總結(jié)原因并規(guī)劃未來。簡單來說，AI 未來必須從“監(jiān)督式學(xué)習(xí)”進(jìn)化到“非監(jiān)督式學(xué)習(xí)”（從無標(biāo)記數(shù)據(jù)中學(xué)習(xí)）。在 LeCun 看來，最關(guān)鍵的問題就是“在不確定的條件下做預(yù)測”。
引用《Machine Learning: The high interest credit card of technical debt》一書中的概念，Peter No-rvig 解釋了為什么機(jī)器學(xué)習(xí)比傳統(tǒng)軟件更復(fù)雜。首先，因為缺乏對障礙的認(rèn)知，所以機(jī)器自己在系統(tǒng)中找 Bug 便很困難。其次，由于 AI 系統(tǒng)擁有非模塊性，因此容易牽一發(fā)而動全身，改動一個點就會牽扯到所有環(huán)節(jié)。另外，AI 系統(tǒng)的非穩(wěn)定性決定了它需要不斷吸收新數(shù)據(jù)。最后，AI 系統(tǒng)的研發(fā)還會涉及隱私、安全和公平性等多種問題。況且技術(shù)人員手上現(xiàn)在沒有合適的工具，現(xiàn)有的研發(fā)工具都是為傳統(tǒng)軟件準(zhǔn)備的?！皺C(jī)器學(xué)習(xí)能讓你大步快走，” Norvig 總結(jié)道?！暗绻叩奶?，問題就會不斷涌現(xiàn)，那么研發(fā)進(jìn)度將受到更嚴(yán)重的影響?！?/p>
紐約大學(xué)的 Gary Marcus AI 發(fā)展時遇到的困難總結(jié)為：“有時我們想要土豆，結(jié)果卻造出了紅薯?！?/p>
3、自動駕駛汽車將讓駕駛成為人的業(yè)余愛好
美國交通部長 Foxx 近日表示：“我們可能會是最后一代著急買車的人?！痹诒敬未髸希ミ_(dá)副主席 Jim McHugh 稱“首個 AI 機(jī)器人就是汽車?！彼鼈兪谷祟愸{駛更安全。自動駕駛汽車不會疲勞，它們擁有超人類的力量。
Lux Capital 公司的 Shahin Farshchi 同樣認(rèn)為自動駕駛車輛有利于人類。他表示政府怠慢于開發(fā)自動駕駛技術(shù)可能會讓許多家庭承受陰陽兩隔之苦。“由于大多數(shù)人駕駛技術(shù)都沒有那么好，因此我們最終可能會接受“不夠完美的自動駕駛汽車?！彼J(rèn)為，這一天很快就會到來。
當(dāng)然，也有人持不同意見，Tom Davenport 就認(rèn)為“許多人寧愿被人類開車撞死也不愿被機(jī)器害死。”也有人對自動駕駛技術(shù)的可靠性持懷疑態(tài)度，短期內(nèi)它們可能較為安全，但未來的事情誰又能說的準(zhǔn)。
Peter Norvig 在演示中也拿自動駕駛為例。他認(rèn)為 AI 在該領(lǐng)域有兩個問題：首先，由于 AI 技術(shù)是黑箱，因此在實驗室狀態(tài)下能安全行駛不代表在現(xiàn)實世界中也能一帆風(fēng)順。另外，我們還要考慮到“注意力問題”，如果 AI 的準(zhǔn)確率為 50% ，那么駕駛座上的司機(jī)肯定會時刻保持緊張狀態(tài)，但如果達(dá)到了 99% ，恐怕大多數(shù)人都會懈怠。一旦出現(xiàn)了 1% 的懈怠，可能就會有 100% 的死亡率。
Norvig 表示：“我們需要創(chuàng)造出新的用戶界面，以便在緊急時刻‘喚醒’駕駛員?！?/p>
Oren Etzioni 則認(rèn)為“自動駕駛”這一定義有些語義錯誤，因為車輛并不知道乘客要去哪，因此危險可能就埋藏在乘客的選擇中。而且無論我們?nèi)绾胃倪M(jìn)，某些人最后都會把事情搞砸。不過，Etzioni 依然非常看好智能汽車的前景，他預(yù)計在未來 25 年內(nèi)，駕駛會成為人的業(yè)余愛好。當(dāng)然，在目的地的選擇上汽車還是得聽乘客的。
4、AI 必須考慮文化和背景：“訓(xùn)練可以改變 AI ”
“現(xiàn)有的算法大多都針對當(dāng)?shù)靥厣M(jìn)行了本地化，”英特爾交互和體驗研究主管 Genevieve Bell 說道。但在對 AI 進(jìn)行訓(xùn)練時，我們還是要利用各種訓(xùn)練數(shù)據(jù)，這樣的智能機(jī)器走到世界各地都能勝任，否則很容易產(chǎn)生文化沖突。
Chennapragada 表示：“訓(xùn)練可以改變 AI 的學(xué)習(xí)過程，也就是說你教它什么它就學(xué)什么?！背宋幕瘑栴}，我們在訓(xùn)練時還要考慮到語意背景。就拿“我愛你”這句話來說，跟家人通信時可以加在電郵末尾，但如果在訓(xùn)練企業(yè)級 email 系統(tǒng)時用上了這一數(shù)據(jù)，回復(fù)電郵時就會有些尷尬了。
會上，微軟研究院的工程師 Lili Cheng 還講述了微軟在研發(fā)聊天機(jī)器人小冰和 Tay 時獲得的經(jīng)驗教訓(xùn)。同一個公司研發(fā)得聊天機(jī)器人命運完全不同，就是因為文化背景有差異。東西方之間的文化差異讓兩個機(jī)器人走上了不同的學(xué)習(xí)之路。
5、AI 并非工作收割機(jī)：“我們還有太多問題需要解決”
Tim O’Reilly 在會上列舉了 AI 不會竊取所有工作的原因：1. 人類還有許多問題需要解決，因此工作機(jī)遇不會完全被 AI 搶走；2. 當(dāng) AI 成為習(xí)慣，人類勞動就會成為新的奢侈品，就像現(xiàn)在機(jī)器化大生產(chǎn)的背景下人們更喜愛手工產(chǎn)品一樣；3. 經(jīng)濟(jì)轉(zhuǎn)型需要時間。雖然眼下亞馬遜火爆異常，但其業(yè)務(wù)量依然只能達(dá)到沃爾瑪?shù)?20% 。
同時，巴布森學(xué)院的 Tom Davenport 教授也指出，1980 年時全美銀行職員為 50 萬人左右，但快 40 年過去了，這一數(shù)字依然維持在 50 萬?！叭绻阆胪ㄟ^顛覆性創(chuàng)新?lián)屪叽蟛糠秩说墓ぷ?，請先看看自己是否還年輕，因為這項工作耗時巨大?！睂τ?AI ，我們不能過于悲觀，當(dāng)然也不能過于樂觀。
奧巴馬總統(tǒng)也同意這一觀點，他表示：“只要我們善用 AI ，它就能為社會帶來繁榮和機(jī)遇。當(dāng)然，也會有一些副作用，比如搶走人們的工作，加劇社會不公平和壓低社會平均薪資等。我們必須及時想辦法解決這些問題。”
6、AI 并非殺戮機(jī)器：“它們將成為人類的左膀右臂”
在 AI 系統(tǒng)的研發(fā)上，研究人員也有一些制度性的考慮。Etzioni 就認(rèn)為“ AI 系統(tǒng)的設(shè)計需要遵從人類的法律和價值觀”，此外，我們還能開發(fā)多個 AI 系統(tǒng)，讓它們互相制衡。在大會上發(fā)言時，Etzioni 引用了 Andrew Ng 的話：“現(xiàn)階段費勁去阻止 AI 變成終結(jié)者就像拼命阻止太空項目以避免火星人口超載一樣?！盧odney Brooks 則表示：“如果你害怕機(jī)器人就把門關(guān)上就好。”畢竟現(xiàn)在的機(jī)器人連關(guān)上的門都打不開。Etzioni 總結(jié)稱：“AI 并非人類歷史終結(jié)者，相反，它們會成為我們的左膀右臂。要說 AI 帶來的最大的威脅，還是前面提到的工作崗位問題。”
英國科學(xué)協(xié)會最近的一項調(diào)查顯示，36% 的英國人相信 AI 的發(fā)展將對未來人類的生存造成威脅。在被問到“為什么那么多受人尊敬的科學(xué)家和工程師都在抓住機(jī)會抹黑 AI ”時，Etzioni 回應(yīng)稱“我也不知道他們的動機(jī)，也許霍金此前說黑洞理論太多次，想要找個有新鮮感的新話題吧?！?/p>
7、AI 雖用處極大卻并非萬能：“有個好梯子不代表你就能登上月球了?！?/strong>
“深度學(xué)習(xí)對數(shù)據(jù)的處理更為復(fù)雜”，Naveen Rao 是 Nervana 的聯(lián)合創(chuàng)始人兼 CEO ，他說，“我覺得 ‘智能’就在數(shù)據(jù)中尋找結(jié)構(gòu)的能力?！?英偉達(dá) Jim McHugh 的描述則更宏觀：“深度學(xué)習(xí)就是一種新的計算模型?！?/p>
“任何人都無法取得谷歌機(jī)器這樣的成績……它完美地展示了人工智能的強(qiáng)大力量……專家們通常把深度學(xué)習(xí)說成對人類大腦的模仿。但實際上，它不過是在進(jìn)行大規(guī)模的數(shù)學(xué)運算罷了?！監(jiān)ren Etzioni 針對 Wire 上的一篇關(guān)于AlphaGo 的文章發(fā)表了自己的觀點。會上，Tom Davenport 補(bǔ)充說道：“深度學(xué)習(xí)并不深刻?！?/p>
Etzioni 還說道，建議去問于 AlphaGo 幾個問題：你能再跟我玩一次嗎？（不能，除非有人按動開關(guān)）；你會玩撲克嗎？（不能，沒有安裝這個程序）；你能過馬路嗎？（不能，這只是一個狹義的目標(biāo)程序）；你能跟我聊聊這個游戲嗎？（不能）。
Etzioni 表示，盡管這種功能狹窄的深度學(xué)習(xí)已在一系列特定問題中成就不菲（比如語音識別或下圍棋），但這并不代表它在總體水平上就能超越人類了。只有輸入大量標(biāo)簽數(shù)據(jù)，深度學(xué)習(xí)才會特別管用。別說，現(xiàn)在想要教深度學(xué)習(xí)完成一件事，99% 的工作還是由人來完成。
Gary Marcus 是紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)教授，幾何智能（ Geometric Intelligence）聯(lián)合創(chuàng)始人兼首席執(zhí)行官，他也反對把深度學(xué)習(xí)描述為“模仿大腦”的說法。“真正的神經(jīng)科學(xué)和我們現(xiàn)在做的模型一點也不一樣。大腦中可能有上千種神經(jīng)元，而深度學(xué)習(xí)中可能只有一到兩種模擬神經(jīng)元。并且大腦的真實結(jié)構(gòu)比模型要復(fù)雜得多。人們對其熱愛的如此之深，而深度學(xué)習(xí)的指令集數(shù)量卻太少，二者極不相稱。關(guān)鍵就是人們太注重簡約了?！?/p>
當(dāng)談到“為什么深度學(xué)習(xí)既廉價又有成果”Marcus 表示，他發(fā)現(xiàn)“很多聰明人都相信深度學(xué)習(xí)放哪都管用，但我不這么認(rèn)為?！彼忉尩?，深度學(xué)習(xí)缺乏隨機(jī)關(guān)系的表征方式、在邏輯推理表現(xiàn)上沒有清晰的方式，而且抽象知識的儲存量也太少?！半m然目前投入高達(dá)數(shù)十億美元，但困難依舊存在。有個好梯子不代表你就能登上月球了，”Marcus 說。
8、AI 是增強(qiáng)智能：“它同時擁有人類和機(jī)器的力量”
Tom Davenport 在演講中說道，人們不應(yīng)和機(jī)器搞競爭，而應(yīng)與之合作。同時，他也向相關(guān)組織提出重要建議：設(shè)置新職位——首席增強(qiáng)官（Chief Augmentation Officer），由此人負(fù)責(zé)根據(jù)特定任務(wù)選擇合適的人工智能技術(shù)，設(shè)計人和機(jī)器能夠協(xié)同合作的工作方式，并且選擇合適的員工，以便能在恰當(dāng)?shù)臅r間把工作交接給機(jī)器。
Tim O’Reilly 表示，人機(jī)合作可使人和機(jī)器都發(fā)揮所長，有所進(jìn)步。
Peter Norvig 在他的人工智能安全問題列表中談及應(yīng)怎樣把人類專業(yè)知識教給人工智能系統(tǒng)，輸入到哪一部分。他表示這些都是挑戰(zhàn)。
Jay Wang 和 Jasmine Nettiksimmons 是 Stitch Fix（通過人工智能和人類專業(yè)知識，將購物體驗個性化的創(chuàng)業(yè)公司）的數(shù)據(jù)科學(xué)家。他們談到要用人的優(yōu)勢進(jìn)一步加強(qiáng)推薦算法的好處?！皺C(jī)器學(xué)習(xí)中加入人的認(rèn)知，能非結(jié)構(gòu)化數(shù)據(jù)得更有效的應(yīng)用。”人類可以輕松理解消費者的線上留言，或 Pinterest board（類似圖片版的Twitter），之后就可以根據(jù)具體情況改善與消費者的關(guān)系，讓算法做它更擅長的技術(shù)?！拔覀兿Ｍ?lián)合人以及機(jī)器的力量，得到最好的結(jié)果”，Wang 和 Nettiksimmons 總結(jié)到。
9、AI 改變了人機(jī)對話方式，但它需要懂得人類感情
“智能語音交互正在改變整個科技產(chǎn)業(yè)，我們現(xiàn)在就處在這一轉(zhuǎn)折點上，” Tim O’Reilly 最近寫到。
具體來講，我們需要“重新思考語音導(dǎo)航的基礎(chǔ)”，微軟的 Lili Cheng 這樣說道?！胺祷亍辨I和“主頁”鍵在系統(tǒng)中的重要性不言而喻，但要是用語音實現(xiàn)，對著設(shè)備一直說“返回，返回”，那就“真的挺怪異的”。Cheng 認(rèn)為，語音技術(shù)的發(fā)展“一直在前進(jìn)”，就像海浪。不過，現(xiàn)在讓用戶語音控制筆記本電腦還相當(dāng)困難。為了讓人工智能思考世界的方式更接近人類，通過語音對話對其進(jìn)行測試也許是個不錯的辦法。
想讓機(jī)器像人一樣理解世界，需得讓它們了解人類的感情。為此，Affectiva 已籌建世界上最大的情感資料庫，分析了超過 470 萬人臉和 500 億情感數(shù)據(jù)，覆蓋 75 個國家。他們的目的是使用戶在使用設(shè)備、 app 和數(shù)字體驗設(shè)備時，能對用戶的情感進(jìn)行實時感知和分析?！叭藗儠蛿?shù)字伴侶日久生情，但是這些伴侶們卻沒有任何感覺，” CEO Rana Al Kliouby 說道。
情感在人工智能中屬于新生領(lǐng)域，但為了使普通大眾（或許也包括從業(yè)者自己？）清楚認(rèn)知人工智能現(xiàn)在的實際能力，我還是更希望大家把它稱之為“共鳴”，而非“情感”。
10、別再用圖靈測試了，換個更智能的測試方式吧
Gary Marcus 抱怨道，人們太容易滿足于短期的小進(jìn)步，而忘了需要去解決“真正困難的問題”。它在一些領(lǐng)域確實獲得了指數(shù)級的進(jìn)步，但在強(qiáng)大的、通用的人工智能領(lǐng)域，卻進(jìn)展甚微。他敦促人工智能從業(yè)人員要制定更遠(yuǎn)大的目標(biāo)——通過傳統(tǒng)圖靈測試太容易了，他斷言到。因此，他建議，應(yīng)該換做多米諾測試（The Domino’s Test）：讓無人機(jī)或無人駕駛汽車把披薩送到任意一個指定地點，其執(zhí)行水平應(yīng)該和一個青少年的行動能力相同。
另外，LeCun 還提出了另一種測試“智能”或者自然語言理解的方法——Winograd Schema，它可衡量機(jī)器對世界的運作方式的了解程度。Etzioni 舉了兩個例子：“大球穿過桌子是因為它由發(fā)泡膠制成”和“大球穿過桌子是因為它由鋼制成”。兩句話中“它”各指什么？這個問題隨便一個 7 歲的小孩子都能答得出。 Etzioni 補(bǔ)充道“所以常識性知識和普通邏輯推理對理解自然語言極其必要?！?/p>
幾個月之前，Nuance Communications 贊助了第一屆 Winograd Schema 挑戰(zhàn)賽，結(jié)果顯示，機(jī)器在句子中代詞的理解上準(zhǔn)確率為58.33%，而人類水平為90.9%。
11、借丘吉爾的話
Peter Norvig 說:“丘吉爾對民主的看法也可以用在機(jī)器學(xué)習(xí)上——機(jī)器學(xué)習(xí)可能不夠好，但現(xiàn)在還找不到比它更好的解決問題的辦法。
Oren Etzioni 說：“丘吉爾的名言稍加改變就是——機(jī)度學(xué)習(xí)既不是終點，也不是起點，甚至說它是起點都有點勉強(qiáng)。”
12、將自己深鎖唯物主義，可能會阻礙人工智能真正發(fā)展到人類的水平
Gary Marcus 對在神經(jīng)信息處理系統(tǒng)（NIPS）大會上展示的論文表示十分不滿，他說，這些論文講的問題都差不多，每次加個一兩層神經(jīng)網(wǎng)絡(luò)，沒有實質(zhì)性進(jìn)展。他表示，是時候出現(xiàn)天才靈感了。
當(dāng)問到“我們什么時候才能看到人類水平的人工智能”時，Etzioni 回答“我也沒有頭緒。”在他的一個對人工智能專家的調(diào)查中，他表示，“最起碼要 25 年以后?！薄拔沂且粋€唯物主義者，相信世界由原子構(gòu)成，所以我不認(rèn)為人工智能想要達(dá)到人類水平有什么不可能的。”
剛踏入計算機(jī)時代時，Edmund Berkeley 曾在《 Giant Brains or Machines that Think》中寫道“近來，有關(guān)機(jī)器能夠快速且高水平處理信息的報道鋪天蓋地……這些機(jī)器和人類大腦相似，只不過它們是由硬件和電線組成……機(jī)器能處理信息，進(jìn)行計算、推斷以及作出決策；因此，機(jī)器是能夠思考的?！?0 年后，Marvin Minsky 的一句話成了經(jīng)典名言：“人類大腦不過是一臺計算機(jī)，只不過由肉構(gòu)成。”
但是否恰是這種根深蒂固的唯物主義、不相信上帝，要造出類人機(jī)器的想法最終導(dǎo)致了著名的“人工智能寒冬期”？是否只有拋下對它的固著，才有可能激發(fā)人們絕妙的創(chuàng)造力？也許我們可以猜想，大腦其實不像機(jī)器，機(jī)器也并不和大腦類似？或許，我們可以放棄徒勞無功的追尋，放棄在計算機(jī)中復(fù)制一個達(dá)到人類水平的人工智能的想法，而找到計算機(jī)其他的應(yīng)用方式來充實和改善我們的生活？
via：forbes
延伸閱讀：
如何看待人工智能全球大學(xué)排名Top50中沒有一所中國大陸大學(xué)？
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
