智能機器不會很快統(tǒng)治世界，但當(dāng)它們拒絕你的貸款，撞了你的汽車，因為你的種族或性別歧視你的時候，會發(fā)生什么？

在一個層面上，答案很簡單：“看情況?！蹦峡_來納大學(xué)的法學(xué)教授Bryant Walker Smith說。

但是，這打開了一個更為復(fù)雜的法律辯論的大門。 “在我看來，我的機器人做錯事并沒有借口?！笨偛课挥谖餮艌D的艾倫人工智能研究所（Allen Institute for Artificial Intelligence簡稱AI2）的首席執(zhí)行官 Oren Etzioni說。

美國的法律制度和政策制定者面對的挑戰(zhàn)迅速崛起，其是首次白宮關(guān)于人工智能的公開研討會，在法律華盛頓大學(xué)醫(yī)學(xué)院展開。整整一個下午，Smith，Etzioni等專家在座無虛席的禮堂討論人工智能的未來。

白宮副首席技術(shù)官Ed Felten說，今天的討論將納入跨部門的決策過程，包括一份公開報告，將于今年晚些時候公布，同時還有公開信息邀請書的要求。

“敬請期待更多的RFI（request for information信息邀請書）?！盕elten說。

一個響亮而清晰的消息：人工智能的當(dāng)前狀態(tài)遠遠不夠先進，辜負了像斯蒂芬·霍金，伊隆·馬斯克和比爾·蓋茨的后顧之憂。 “你得知道它們是哪里來的?！盓tzioni說。

“我認(rèn)為現(xiàn)在AI的確有一些非?，F(xiàn)實的問題，我們應(yīng)該要馬上解決。”他說。 “而AI的生存威脅不是其中之一。事實上，我認(rèn)為這讓我們從一些非常現(xiàn)實的擔(dān)憂分心了。其一是有關(guān)工作。而另一個非常實際的是關(guān)于隱私權(quán)的?！?/p>

在工作方面，有人估計，在2050年，由于快速的自動化，全球人口的一半或者更多，可能面臨失業(yè)。在隱私方面，通過互聯(lián)網(wǎng)收集的個人數(shù)據(jù)越來越多，并由日益智能化代理處理。

有時候處理會產(chǎn)生爭議的結(jié)果：例如，在一個實驗中，研究人員發(fā)現(xiàn)，根據(jù)模擬的用戶配置文件，谷歌的AdFisher計劃更可能把高薪工作顯示給男性。而就在本周，ProPublica報道，用軟件程序評估刑事被告的再犯風(fēng)險時，黑人比白人遭受的指責(zé)更嚴(yán)厲。

這是程序的錯還是程序員的錯呢？正如Smith說，要看情況。

紐約的微軟研究院首席研究員Kate Crawford表示，機器背后的人類不得不更加重視職業(yè)道德和問責(zé)制，即使是在今天狹隘的人工智能工具的情況下。

“這些系統(tǒng)在一定程度上類似黑盒子?！盋rawford說， “當(dāng)這些系統(tǒng)開始成為基礎(chǔ)設(shè)施的時候，我認(rèn)為我們必須有最高水平的正當(dāng)程序和公正?！?/p>

Crawford說，其中一項建議是開展人工智能程序的外部審計，以確保它們產(chǎn)生理想的政策效果。耶魯大學(xué)法學(xué)教授 Jack Balkin說，另一個建議是在決策過程中，計算機科學(xué)家應(yīng)該加入政策制定者的行列。

“我贊同，”Crawford說。現(xiàn)在計算機科學(xué)家已經(jīng)組成一個團隊，稱為機器學(xué)習(xí)公平、透明、問責(zé)制（ Fairness, Accountability and Transparency in Machine Learning）。

當(dāng)自動駕駛和半自動駕駛車集體上路，法律問題很可能會成為主流。沃爾沃已經(jīng)承諾，將承擔(dān)涉及其自動駕駛碰撞事故的全部責(zé)任，而特斯拉汽車就比較謹(jǐn)慎。

談到?jīng)Q定賠償責(zé)任的問題，當(dāng)涉及廠商和用戶時，法律制度將不得不權(quán)衡反對派觀點的有效性，沒有涉及自動化時，他們也是這樣做的，Smith說。華盛頓大學(xué)計算機科學(xué)教授Pedro Domingos說，人類最終將習(xí)慣于把智能機器考慮在內(nèi)。

“事實上，很多事情人們本來覺得不舒服，但很快就會開始覺得是理所當(dāng)然?！彼f。

Domingos說，很可能對大范圍的應(yīng)用都適用，即使當(dāng)智能機器身背武器時。

“如果我發(fā)現(xiàn)自己在戰(zhàn)區(qū)，在我面前還有一架無人駕駛飛機，它在決定是否要拍我，我一點也不在乎該決定是由人還是機器所做。”他說。 “只要他們做出正確的決定，讓我能存活下來就行。我寧愿機器來做這個決定。手術(shù)也同理，機器人有99％的成功幾率，而外科醫(yī)生的成功率是98.5％，我會選擇誰？毫無疑問：我寧愿選擇機器人。”

最終，社會可能接納AI程序守望彼此，以確保它們不出差錯，Etzioni說。但是，如果事情確實出了問題，會有AI起訴另一個AI嗎？

Etzioni說： “當(dāng)然總比人們互告對方好?！?/p>

via GW

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。