"永遠(yuǎn)不要相信人類(lèi)！"

在1950年末出版的科幻作品《我，機(jī)器人》里，作者阿西莫夫在第一頁(yè)就引用了《機(jī)器人學(xué)指南》第56版（2058年）的“機(jī)器人學(xué)三定律”：

• 機(jī)器人不得傷害人類(lèi)，或坐視人類(lèi)受到傷害；

• 除非違背第一法則，機(jī)器人必須服從人類(lèi)的命令；

• 在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。

這三定律看起來(lái)非常簡(jiǎn)單易懂，right? 而且令人欣慰的是，服從人類(lèi)的法則排在第二位。因?yàn)橛行┤私?jīng)常做傻事，如果機(jī)器人總是對(duì)人類(lèi)言聽(tīng)計(jì)從，恐怕會(huì)惹出不少亂子。所以來(lái)自塔夫斯大學(xué)人機(jī)交互實(shí)驗(yàn)室的Gordon Briggs和Matthias Scheutz正著手制定一種全新的機(jī)制，讓機(jī)器人學(xué)會(huì)在必要時(shí)刻拒絕人類(lèi)發(fā)出的命令。

從語(yǔ)言學(xué)理論上來(lái)看，如果某人要你做一件事，你理解它的意思靠的更多的是語(yǔ)境而不是詞匯本身，這就是我們說(shuō)的“合適條件”。在合適條件下，你會(huì)將語(yǔ)義和自身能力統(tǒng)一起來(lái)進(jìn)行權(quán)衡，而不是只去理解別人的命令。對(duì)機(jī)器人來(lái)說(shuō)，合適條件同樣重要，尤其是在如下的場(chǎng)景中：

1. 認(rèn)知：我知道怎么做這件事嗎？

2. 能力：這件事真的是我力所能及范圍之內(nèi)的嗎？

3. 目標(biāo)優(yōu)先級(jí)和時(shí)間：我現(xiàn)在就能去做這件事嗎？

4. 社會(huì)角色和義務(wù)：基于我所扮演的社會(huì)角色，我有責(zé)任做這件事嗎？

5. 規(guī)范允許：做這件事會(huì)違反一些規(guī)則嗎？

前三種合適條件很容易理解，不過(guò)對(duì)于第四和第五條，我們可以討論一下。“社會(huì)角色和義務(wù)”是指機(jī)器人是否相信人類(lèi)有權(quán)命令自己做事。而“規(guī)范允許”語(yǔ)義則更為復(fù)雜，它表示機(jī)器人不該去做那些明知很危險(xiǎn)的事情，或者更準(zhǔn)確地說(shuō)，如果機(jī)器人不了解事情的危險(xiǎn)性，它就會(huì)按照命令去執(zhí)行。

現(xiàn)在我們來(lái)研究一下，這些條款在人類(lèi)與機(jī)器人的交流中到底是如何工作的。研究人員做這件事不僅是為了讓機(jī)器人分清何時(shí)該聽(tīng)從命令，他們還想提供一個(gè)全新的框架，讓機(jī)器人能表達(dá)出自己拒絕接受命令的原因。這一點(diǎn)很重要，因?yàn)槿绱艘粊?lái)人類(lèi)就不會(huì)胡亂下命令了，他們?cè)谧鰶Q定前會(huì)充分考慮到一系列的合適條件。

舉例來(lái)說(shuō)，如果你的命令違反了某些規(guī)則，即使是只是“前進(jìn)”——一個(gè)極其簡(jiǎn)單的命令，機(jī)器人也會(huì)拒絕執(zhí)行（因?yàn)闄C(jī)器人知道如果“前進(jìn)”就會(huì)摔下桌子）。如果機(jī)器人可以解釋原因，人類(lèi)就可以及時(shí)修改命令，這樣一來(lái)就可以提高機(jī)器人的效率。

我希望研究者能給機(jī)器人添加一個(gè)“狼來(lái)了”模式，如果有人故意下達(dá)惡意命令，今后就再也得不到機(jī)器人的信任了。

我們?cè)倥e一個(gè)例子，如果人類(lèi)事先知道一個(gè)屋子是危房還硬要讓機(jī)器人進(jìn)入呢？這種行為依然會(huì)置機(jī)器人于危險(xiǎn)境地，所以如果機(jī)器人和命令人之間沒(méi)有特定的社會(huì)關(guān)系，它可以選擇拒絕執(zhí)行命令。

如果全面推行該機(jī)制，原本的機(jī)器人第二和第三定律就不再起作用了，因?yàn)樵谖ｋU(xiǎn)情況下機(jī)器人可以選擇拒絕執(zhí)行命令。

這樣的機(jī)制會(huì)不會(huì)造成機(jī)器人反噬人類(lèi)呢？也許會(huì)吧。不過(guò)恐怕想讓機(jī)器人無(wú)條件遵守人類(lèi)的規(guī)則也是不現(xiàn)實(shí)的。如果你試著讓電腦和軟件完全遵守人類(lèi)制定的規(guī)則，等待你的結(jié)果必然是一團(tuán)糟，機(jī)器人也與該情況類(lèi)似，畢竟強(qiáng)扭的瓜不甜。

也許未來(lái)的某天，機(jī)器人也會(huì)懂得拒絕的。

 via ieee

2015-2016賽季全球創(chuàng)客馬拉松深圳大學(xué)站已經(jīng)開(kāi)始接受報(bào)名啦！關(guān)注“硬創(chuàng)邦”（微信號(hào)：leiphone_bang），回復(fù)“深大”即可參與報(bào)名！而且，雷鋒網(wǎng)在未來(lái)三個(gè)月內(nèi)選一個(gè)合適的時(shí)間，在北上深選擇一個(gè)地點(diǎn)，舉辦創(chuàng)馬“火星救援”專(zhuān)場(chǎng)！詳情可點(diǎn)此處了解。

此外還可加入全球創(chuàng)客馬拉松主群（群號(hào)：259592983），參與我們的互動(dòng)討論~

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。