做人要有原則，不能做的事即使是上司要求也一定不能做，這個(gè)道理誰都懂。那么如果將情境轉(zhuǎn)換到機(jī)器人身上呢？它們也必須無條件服從人類的命令嗎？大多數(shù)人肯定會(huì)下意識(shí)的覺得，機(jī)器人就該以服從為天職，因?yàn)樗鼈兪菣C(jī)器，設(shè)計(jì)之初就是要服從人類命令的。不過，想想你平時(shí)做的那些傻事吧，如果不假思索的要求機(jī)器人照做，恐怕得出不少亂子。

下面我們共同來看幾個(gè)例子：

1. 如果家中有臺(tái)智能輔助機(jī)器人專門負(fù)責(zé)照顧老年人生活，那么患了健忘癥的老人可能會(huì)讓機(jī)器人做許多重復(fù)的無用功，比如一件衣服一天洗個(gè)七八次；

2. 家中熊孩子可能會(huì)把日托機(jī)器人當(dāng)玩具，命令它往窗外扔?xùn)|西；

3. 學(xué)生可能會(huì)把作業(yè)甩給機(jī)器人完成；

4. 家政機(jī)器人在做菜時(shí)可能會(huì)被主人叫去倒垃圾。

這樣的例子數(shù)不勝數(shù)，稍不小心，可能就會(huì)把自己也搞得手忙腳亂。當(dāng)然，以上這些最多讓你吃到暗黑料理，但如果有壞人教唆機(jī)器人犯罪，恐怕后果就嚴(yán)重了。

那么人類該如何避免因機(jī)器人服從命令而帶來的麻煩呢？如果別有用心的人讓機(jī)器人拿起刀向前走，而它前方站著一個(gè)人怎么辦？恐怕最好的方法要么是機(jī)器人停下不動(dòng)，要么就是機(jī)器人拒絕拿刀。

不過，無論是哪種辦法，機(jī)器人都需要事先探知自己后續(xù)行為會(huì)造成的后果并主動(dòng)做出是否遵守命令的選擇。那么我們?cè)趺唇虣C(jī)器人說“不”呢？

機(jī)器人怎么知道下一步會(huì)發(fā)生什么？

在實(shí)驗(yàn)室中，我們已經(jīng)開始開發(fā)基于人類命令的機(jī)器人控制系統(tǒng)，通過該系統(tǒng)，機(jī)器人就能決定是否執(zhí)行人類命令（違反道德原則可以拒絕）。

不過，要想教會(huì)機(jī)器人不服從可不是個(gè)容易事，畢竟有些事的后果并非肉眼能看到的。將球扔出窗戶，可能會(huì)安全落在院子里，也有可能落在人潮不息的大街上，它會(huì)砸住人還是砸到車（引發(fā)一系列連鎖反應(yīng)）誰也說不清。

以現(xiàn)在的技術(shù)條件，機(jī)器人很難確定到底什么時(shí)候能扔球（玩接球游戲可以扔，扔出窗外不可以）。此外，如果熊孩子故意欺騙機(jī)器人，假裝自己要玩接球游戲卻故意躲開，事情就有可能沿相反的軌道發(fā)展。

教授機(jī)器人道德和法律

要想讓機(jī)器人理解自己行為可能造成的危險(xiǎn)后果，就需要讓它掌握大量的背景知識(shí)（如在窗前扔球可能會(huì)造成皮球飛出窗外）。機(jī)器人不但要衡量自己行為造成的結(jié)果，還要考慮人類發(fā)出某項(xiàng)指令的意圖。

而要想讓機(jī)器人明確領(lǐng)會(huì)人類復(fù)雜指令（善意與否）的意思，它們就要了解這些指令可能會(huì)造成的后果并與現(xiàn)有的社會(huì)道德和法律進(jìn)行比對(duì)。

眼下，在管理機(jī)器人上我們有通用法則：“如果你被要求完成的任務(wù)可能會(huì)造成傷害，就可以決絕執(zhí)行。”但如此簡(jiǎn)單的描述根本不夠，為機(jī)器人制定詳細(xì)的責(zé)任和權(quán)限勢(shì)在必行。

總的來說，不做違法之事是機(jī)器人的基本原則，但如果人類的指令有問題，機(jī)器人也應(yīng)該有說“不”的權(quán)利。因此，機(jī)器人“大腦”中必須裝有法律、道德甚至人類禮儀，這樣才能聰明的拒絕一些錯(cuò)誤指令。

雖說現(xiàn)有的技術(shù)下機(jī)器人還很難獲得上述能力，但我們從現(xiàn)在就應(yīng)該定下一個(gè)基調(diào)，那就是機(jī)器人有權(quán)說“不”。

Via. Inverse 由雷鋒網(wǎng)編譯

【招聘】雷鋒網(wǎng)機(jī)器人垂直欄目“新智造”招人了，工作地點(diǎn)深圳。簡(jiǎn)歷投遞至雷鋒網(wǎng)郵箱wangjinhong@leiphone.com 。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。