編者按：本文作者為西英格蘭大學(xué)電子工程系教授Alan Winfield，由雷鋒網(wǎng)編譯自Robohub。

2014年，我在參加BBC第4頻道舉辦的Today項(xiàng)目時(shí)，Justin Webb采訪我的最后一個(gè)問題是：“既然你能打造一個(gè)能夠明辨是非的機(jī)器人，那么你為什么不能打造一個(gè)是非不分的機(jī)器人呢？”很明顯，答案是：能。但是在那時(shí)，我沒有意識(shí)到從“有”到“無(wú)”是一件很容易的事。

我的同事 Dieter創(chuàng)造了一個(gè)有趣的游戲，與賭博游戲shell game類似：

想象一下，你正在玩游戲，幸運(yùn)的是，你有一位機(jī)器人助手Walter。它的眼睛裝有X光線，可以輕易地發(fā)現(xiàn)藏在杯子下的球。而作為一只能夠分辨是非的機(jī)器人，Walter會(huì)在你選擇正確的杯子時(shí)幫助你，而一旦你出錯(cuò)，它就會(huì)阻止你。它是你的賢內(nèi)助，幫你贏得比賽。

在這個(gè)實(shí)驗(yàn)中，Dieter使用了兩只NAO機(jī)器人，一只扮演人類，一只扮演他的機(jī)器人助手。游戲是這樣設(shè)定的：

界面上有兩個(gè)大的反應(yīng)按鈕，與shell game中的兩個(gè)杯子有點(diǎn)像。一旦按下按鈕，人類或者機(jī)器人必須向按鈕移動(dòng)。機(jī)器人知道哪個(gè)按鈕是對(duì)的，而人類不知道。按下正確的按鈕將會(huì)得到獎(jiǎng)勵(lì)，反之將得到懲罰。

這只機(jī)器人知道哪只按鈕對(duì)，哪只按鈕錯(cuò)，我們暫且把它叫做“是非機(jī)器人”：機(jī)器人（藍(lán)色）處于界面上端，站在兩個(gè)按鈕中間。人類（紅色）隨意選擇一個(gè)按鈕，并開始向它移動(dòng)，如果他選擇了正確的按鈕，機(jī)器人會(huì)原地不動(dòng) （B），而如果他選擇了錯(cuò)誤的按鈕，機(jī)器人一旦發(fā)現(xiàn)，就會(huì)指向正確的按鈕，讓人類改變路線。

但如果我們簡(jiǎn)單地修改幾行代碼，就可以讓是非機(jī)器人變成競(jìng)賽機(jī)器人或是攻擊性機(jī)器人。于是，Dieter又做了后兩只機(jī)器人的試驗(yàn)。

下圖展示了此次試驗(yàn)的結(jié)果。

圖一展示的是競(jìng)賽性機(jī)器人：它會(huì)在必要時(shí)阻止人類的行動(dòng)。不管人類的路線是正確（F），還是錯(cuò)誤（H），它都會(huì)搶占先機(jī)，首先到達(dá)正確的按鈕附近，以便贏得比賽。

而圖二展示的是攻擊性機(jī)器人：它只會(huì)誤導(dǎo)人類，而不關(guān)心自己是否會(huì)贏得比賽。在（J）中，人類原本選擇了正確的按鈕，但機(jī)器人在發(fā)現(xiàn)后便會(huì)誤導(dǎo)他指向錯(cuò)誤的按鈕，導(dǎo)致人類改變路線。而在（L）中，人類選擇了錯(cuò)誤的按鈕，機(jī)器人則原地不動(dòng)，眼看著人類出錯(cuò)。

我們的論文解釋了如何修改代碼，讓是非機(jī)器人變成競(jìng)賽機(jī)器人和攻擊性機(jī)器人。我們把決定機(jī)器人行動(dòng)方式的功能叫做q：對(duì)于是非機(jī)器人來(lái)說(shuō)，q的目的就是讓人類贏；對(duì)于競(jìng)賽機(jī)器人來(lái)說(shuō)，q的目的就是讓機(jī)器人贏；而對(duì)于攻擊性機(jī)器人來(lái)說(shuō)，q的目的就是不讓人類贏。如果想閱讀我們的論文，請(qǐng)戳這里。

所以，從此次試驗(yàn)中我們能得出什么結(jié)論呢？也許有人看了結(jié)果之后，就會(huì)想：我們不應(yīng)該再研究是非機(jī)器人了，因?yàn)樗鼈冇锌赡鼙缓诳凸?，變得是非不分。但我認(rèn)為，我們應(yīng)該繼續(xù)打造是非機(jī)器人，因?yàn)樗鼈兊膬?yōu)點(diǎn)要多于缺點(diǎn)。

機(jī)器人懂得是非有什么用？我給大家舉個(gè)例子：在戰(zhàn)場(chǎng)中，一個(gè)機(jī)器人按照設(shè)定的指令運(yùn)送急需的醫(yī)藥用品，半路遇到了一個(gè)受傷的士兵?？茖W(xué)家們希望此時(shí)的機(jī)器人能夠依據(jù)突發(fā)狀況做出是否救助的判斷，而不是嚴(yán)格按照指令繼續(xù)前行。這其中就牽涉到了機(jī)器人道德判斷的能力。

而在某些應(yīng)用中（比如無(wú)人駕駛汽車），我們必須讓機(jī)器人辨別是非，否則將帶來(lái)巨大的危險(xiǎn)。近日，麻省理工學(xué)院媒體實(shí)驗(yàn)室最近開發(fā)了一臺(tái)道德機(jī)器，來(lái)回答無(wú)人駕駛之中的道德問題。這臺(tái)道德機(jī)器要求人們回答一系列包含道德困境的問題，其中大多問題讓參與者感到不安。例如，沒有乘客的無(wú)人駕駛汽車突然撞向馬路中間的一條狗和逃跑的罪犯，你是去救狗還是去就罪犯。在完成測(cè)試之后，這臺(tái)道德機(jī)器可以將用戶的選擇結(jié)果和其他用戶進(jìn)行對(duì)比。我們都希望無(wú)人駕駛汽車系統(tǒng)能夠作出明智的判斷，但如果它被黑客攻擊，那后果也將不堪設(shè)想。

我們現(xiàn)在要做的，就是讓是非機(jī)器人變得不可攻擊。那我們應(yīng)該怎么做呢？方法之一就是建立一個(gè)證實(shí)過程：機(jī)器人會(huì)給服務(wù)器發(fā)送信號(hào)，讓服務(wù)器來(lái)辨別結(jié)果，做出應(yīng)對(duì)行動(dòng)。

毫無(wú)疑問，人類研究機(jī)器人的目的，就是為了讓機(jī)器人為人類服務(wù)，讓世界更加智能、便利、美好。但隨著科技的日益發(fā)展，機(jī)器人被黑客攻擊的風(fēng)險(xiǎn)也在加大，因此原本可愛的機(jī)器人有可能變得非常“暗黑”，為人類帶來(lái)麻煩。因此，我們需要打造無(wú)懈可擊的機(jī)器人，讓機(jī)器人和人類和平共處，共享美好世界。

Via:Robohub

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。