研究人員對于人工智能何時能上升到人類的理解水平意見不一。但奧巴馬政府不會坐等答案。白宮表示，當(dāng)人工智能還是依賴于人類的時候，政府需要開始思考如何調(diào)節(jié)和使用這種強大的技術(shù)。

“當(dāng)我們說人工智能的時候，公眾腦海里應(yīng)該有一個準(zhǔn)確的答案?！比A盛頓大學(xué)法律教授Ryan Calo說。今年夏天，白宮主持了4個關(guān)于如何應(yīng)對人工智能日益驅(qū)動整個世界的研討會，而Calo在上周第1個會上發(fā)言。盡管學(xué)者和政策制定者都認為華盛頓應(yīng)該在這方面發(fā)揮作用，目前尚不清楚應(yīng)該如何制定政策，緊迫的問題卻日益積累。它們包括何時和如何決定谷歌的自動駕駛汽車能上美國的公路和如何檢驗偏差滲透算法。

“我們可以肯定的一件事是，人工智能已經(jīng)使得制定政策變成一種挑戰(zhàn)，比如如何確保技術(shù)仍然安全，可控，可預(yù)測，即使它變得更復(fù)雜和更聰明?！泵绹茖W(xué)和技術(shù)政策的副領(lǐng)導(dǎo)Ed Felten說，其領(lǐng)導(dǎo)著夏季的人工智能研究。 “其中一些問題隨著技術(shù)的進步將變得更具挑戰(zhàn)性，所以我們需要加大馬力，緊隨其腳步?！?/p>

人類仍然操縱著人工智能

盡管在某一些領(lǐng)域，人工智能已經(jīng)超過了人類的能力，谷歌的AlphaGo反復(fù)擊敗了世界上最好的棋手，但是每個系統(tǒng)的應(yīng)用仍然有限，而且依賴于人類。 “智能和自主權(quán)是兩種完全不同的事情，”非營利人工智能艾倫研究所主管Oren Etzioni說，同時也是美國時間周二的研討會發(fā)言人， “人的智慧和自主性是齊頭并進的，但對于計算機而言就完全不是這樣的情況了?！彼f。

整個團隊花了幾年時間研究技術(shù)，精心打造和管理最聰明的人工智能系統(tǒng)。正如Etzioni指出，沒有人按下按鈕的話，AlphaGo就不能進行下一輪對戰(zhàn)。但是，人類在輸入和設(shè)計的不可靠性，使得學(xué)者和政策專家焦慮。機器要獲得學(xué)習(xí)的能力，它們必須要接收大規(guī)模的數(shù)據(jù)集。而人類，帶著他們所有的固有缺點，一直在輸入數(shù)據(jù)。

輸入數(shù)據(jù)到機器

最近白宮的一份報告中概述看大數(shù)據(jù)潛在的歧視性。為了使數(shù)據(jù)有意義，必須有人將其分類和作簡介。技術(shù)人員和設(shè)計人員可能將現(xiàn)有的偏見和結(jié)構(gòu)性不平等灌輸給人工智能。

這不是一個學(xué)術(shù)問題。谷歌的廣告交付算法把較高工資的工作廣告，更多地發(fā)放給男性。ProPublica最近報道說，依賴人工智能系統(tǒng)判刑和作假釋決定的法官，其所做的風(fēng)險評估結(jié)果出現(xiàn)種族偏見。

“該記者發(fā)現(xiàn)，被標(biāo)記為潛在慣犯的白人非裔美國人之間存在懸殊的差距，”微軟研究員Kate Crawford說。 “這是一個從設(shè)計開始就存在偏見的系統(tǒng)，但我們看不到它是如何工作的。該系統(tǒng)是專有的，他們沒有共享數(shù)據(jù)。我們不知道為什么系統(tǒng)會獲得這些結(jié)果。”

如果人工智能將決定如誰能得到抵押貸款，工作，或假釋之類的東西，Crawford說，為確保其準(zhǔn)確性，對灌輸?shù)竭@些系統(tǒng)中的數(shù)據(jù)采取一定程度的應(yīng)用問責(zé)，將是越來越重要的。

政府如何介入

人工智能不僅用于做人生選擇、司法結(jié)果等等。它也可以用來做出即時的決定，舉個例子，一輛無人駕駛汽車如何避免碰撞。試圖控制這些技術(shù)的問題是，它們?nèi)栽陂_發(fā)階段。南卡羅來納大學(xué)的法學(xué)教授和自動駕駛汽車全國領(lǐng)先的專家之一Bryant Walker Smith說。

早期任何一種設(shè)計要求能抑制建設(shè)一個更安全，更負責(zé)任的機器，Smith說。自動駕駛汽車的創(chuàng)作者有責(zé)任讓公眾安全。

同時，政府已經(jīng)與如何規(guī)范和監(jiān)督已經(jīng)在使用的人工智能作斗爭，如無人機、癌癥的檢測分析。白宮的科學(xué)和技術(shù)政策辦公室聚集幾個機構(gòu)一起，基于證據(jù)，而不是焦慮來考慮應(yīng)對方法。政府將要考慮其能買什么，以及在什么條件下，投資使人工智能更安全的研究。

然而，盡管政府努力追趕世界上已經(jīng)存在的技術(shù)，值得記住的是，人工智能仍然新生。為了在未來能規(guī)范人工智能，在人類還能做主的時候就應(yīng)該奠定基礎(chǔ)。

via wired

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。