可攜帶爆炸物的殺人微型無(wú)人機(jī)

雷鋒網(wǎng)按：本文出自 Spectrum.ieee 撰稿人  Evan Ackerman，一個(gè)有關(guān)殺戮機(jī)器人的視頻引起了他的思考。關(guān)于 AI 和機(jī)器人的未來(lái)，我們是要一棒子打死，還是坐下來(lái)仔細(xì)衡量它們的優(yōu)劣，找到一個(gè)更好的解決方案呢？

本周，日內(nèi)瓦聯(lián)合國(guó)總部舉辦了一場(chǎng)史無(wú)前例的會(huì)議，常規(guī)武器公約組織成員國(guó)的專家針對(duì)致命性自動(dòng)化武器系統(tǒng)進(jìn)行了討論。一些組織（如“停止殺戮機(jī)器人運(yùn)動(dòng)”）敦促聯(lián)合國(guó)在自動(dòng)化武器的監(jiān)管上持續(xù)推進(jìn)。這次會(huì)議相當(dāng)重要，因?yàn)橄嚓P(guān)問(wèn)題會(huì)塑造機(jī)器人和人類社會(huì)的未來(lái)。

周末無(wú)意間看到的一個(gè)視頻也讓我開始關(guān)心起與自動(dòng)化武器相關(guān)的討論，這個(gè)視頻的名字就叫“殺戮機(jī)器人”。值得注意的是，這個(gè)視頻得到了硅谷鋼鐵俠馬斯克旗下未來(lái)生活研究所（Future of Life Institute）的支持，而馬斯克一直堅(jiān)定的站在“邪惡”AI 的對(duì)立面。除了有這層背景，這個(gè)視頻的基調(diào)也非常陰暗，它將時(shí)間設(shè)定在了不久的將來(lái)，不過(guò)情節(jié)卻與科幻小說(shuō)類似，攜帶爆炸物的微型無(wú)人機(jī)在全球肆意殺人。

這里就不附上視頻了，因?yàn)楫嬅嫦喈?dāng)暴力血腥，甚至包含了在課堂上的恐怖襲擊。不過(guò)，如果你非要一探究竟，可以在未來(lái)生活研究所的網(wǎng)站上找到它。

說(shuō)實(shí)話，這個(gè)視頻讓我非常失望，那些頗有聲望的機(jī)器人和 AI 研究者居然會(huì)支持這種嘩眾取寵的作品，它們要的只是吸引眼球，關(guān)于實(shí)際問(wèn)題則根本沒有傳達(dá)任何有用信息。這樣的視頻根本不是沖著表達(dá)事實(shí)而出現(xiàn)的，它們就是要煽動(dòng)和培養(yǎng)人們對(duì) AI 和機(jī)器人的恐懼。同時(shí)，它還占據(jù)了道德制高點(diǎn)，好像你反對(duì)這種觀點(diǎn)就是與恐怖分子沆瀣一氣。此外，如此多專家為該視頻背書更是會(huì)讓公眾思想混亂，他們會(huì)對(duì)所有機(jī)器人產(chǎn)生恐懼，而這正是機(jī)器人專家們長(zhǎng)期警惕的。

視頻中甚至虛構(gòu)了一個(gè)專門造殺人微型無(wú)人機(jī)的公司

從個(gè)人角度來(lái)說(shuō)，我對(duì)殺戮機(jī)器人持否定態(tài)度，更準(zhǔn)確的來(lái)說(shuō)，我反對(duì)那些“超越了人類實(shí)際控制的自動(dòng)化武器”。不過(guò)，對(duì)于那些叫囂著要徹底封殺此類機(jī)器人的人，我也不愿給予支持。因?yàn)樵谖铱磥?lái)，這是一個(gè)相當(dāng)復(fù)雜，還無(wú)法完整定義的問(wèn)題，全部封殺不是個(gè)有效的解決方案。

眼下，關(guān)于 AI 的話題還在討論中，到底哪些技術(shù)應(yīng)該被禁，如何禁止還有待確定。在視頻最后發(fā)言的加大伯克利分校教授 Stuart Russell（也是制片人之一）稱“我們有機(jī)會(huì)阻止視頻中的事情發(fā)生”，但事實(shí)上他有點(diǎn)“too young，too simple”了。在我看來(lái)，直接封殺自動(dòng)化武器并不會(huì)阻擋無(wú)人機(jī)微型化的腳步，也無(wú)法阻擋面部識(shí)別技術(shù)的進(jìn)步，更無(wú)法阻礙兩項(xiàng)先進(jìn)技術(shù)合二為一，而相互融合的這兩項(xiàng)技術(shù)就是視頻中的“幕后黑手”。

有人指責(zé)這段視頻是在散布恐慌，但 Russell 的一位同行并不同意。這位新南威爾士大學(xué)的 AI 教授表示：“這才不是散布恐懼。俄羅斯大使在對(duì)這次會(huì)議發(fā)表評(píng)論時(shí)指出，我們根本不需要擔(dān)心自動(dòng)化武器，因?yàn)槲覀冸x開發(fā)成功還遠(yuǎn)著呢。此外，這段視頻另辟蹊徑，它指出技術(shù)的結(jié)合會(huì)讓殺人機(jī)器更早到來(lái)，一旦誤用，后果不堪設(shè)想?！?/p>

其實(shí)兩年前我就對(duì)一封要求禁止攻擊型自動(dòng)化武器的公開信做過(guò)反駁，當(dāng)時(shí)我舉了許多正面例子，列舉了自動(dòng)化武器的好處，而 Russell 和 Walsh 則聯(lián)合 MIT 教授 Max Tegmark 對(duì)我的觀點(diǎn)做了回應(yīng)。

文章開篇他們非常客氣，稱歡迎我參與這場(chǎng)討論。同時(shí)，他們還表示這是個(gè)復(fù)雜的問(wèn)題，雙方都有自己的觀點(diǎn)，到底孰對(duì)孰錯(cuò)需要仔細(xì)衡量。

這樣的觀點(diǎn)我非常贊同，想要一個(gè)更安全的未來(lái)，這樣的討論必不可少，但通過(guò)恐怖視頻搞惡意中傷就不可取了，這會(huì)讓許多人加深自己對(duì)機(jī)器人的負(fù)面印象。

 

Via. Spectrum.ieee 雷鋒網(wǎng)編譯，更多機(jī)器人方面資訊可關(guān)注雷鋒網(wǎng)垂直欄目「新智造」。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。