雷鋒網(wǎng) AI 科技評論按：近期 Facebook 泄露海量用戶數(shù)據(jù)，而且這些數(shù)據(jù)還被利用來針對性地影響 Facebook 用戶的事情已經(jīng)鬧得沸沸揚(yáng)揚(yáng)。除了用戶隱私保護(hù)這一話題永遠(yuǎn)都不過時(shí)之外，「用來分析用戶、影響用戶的 AI 算法應(yīng)當(dāng)擔(dān)負(fù)怎么樣的責(zé)任」這一話題也在 AI 圈中引起了討論。Keras 作者、谷歌大腦研究員 Fran?ois Chollet 也在 Twitter 上連發(fā)好幾十條推文，表達(dá)了自己的觀點(diǎn)。這些推文基本構(gòu)成了一篇完整的文章，而且觀點(diǎn)深刻發(fā)人深省。雷鋒網(wǎng) AI 科技評論把這些推文編譯整理如下。

Fran?ois Chollet：

Facebook 已經(jīng)做了一系列「成功」的實(shí)驗(yàn)了，其中的內(nèi)容包括通過控制信息流里展現(xiàn)的內(nèi)容控制用戶的情緒和想法，以及預(yù)測用戶未來可能做出的決定，比如預(yù)測分手、預(yù)測建立新戀情。如果 AI 有什么重大的威脅需要引起足夠的擔(dān)心的話，那它已經(jīng)在這里顯現(xiàn)出來了：極為有效地、可以大規(guī)模實(shí)行地控制普通大眾。Facebook 非常努力地想要成為 AI 方面的領(lǐng)軍力量這件事，在看清它背后的全部隱喻之后，開始真正地讓人不寒而栗。

對 AI 研究社區(qū)里的各位，下次你們以任何形式參與到 Facebook 的 AI 生態(tài)系統(tǒng)中的時(shí)候，你們都需要想想，想想自己又幫 Facebook 增添了哪些能力。我們共同養(yǎng)大的這個怪獸，最終會把我們每一個人都吃掉。很抱歉我把這事說得很夸張，但是這件事的威脅程度值得用這么嚴(yán)重的詞。Facebook 在這件事上體現(xiàn)出的問題，并不僅僅是失去了隱私并被用于泛極端主義。在我看來更值得擔(dān)心的是，它把個人的數(shù)字信息用作心理控制的手段。

有兩個長期趨勢正在改變整個世界的模樣：一，我們每個人的生活越來越去物質(zhì)化，越來越多地由「在網(wǎng)絡(luò)上享用和創(chuàng)造內(nèi)容」構(gòu)成，工作中、下班在家的時(shí)候都是這樣；二，AI 也在變得越來越聰明。在能夠影響我們?nèi)绾蜗硎軘?shù)字化內(nèi)容的算法層面上，這兩個趨勢的作用開始疊加。決定我們能看到哪些文章、我們和誰聯(lián)系、我們看到誰的觀點(diǎn)、收到誰的反饋等等無限多的事情的，變成了不透明的媒體算法?；趶V大用戶這么多年積攢的數(shù)據(jù)，用算法處理我們能享用哪些數(shù)據(jù)的做法讓這些系統(tǒng)對我們的生活、對我們要變成什么樣有了可見的控制力。當(dāng)我們的生活越來越多地由數(shù)字生活組成的時(shí)候，我們在這個世界的管理方 —— AI 算法 —— 面前，就越發(fā)地脆弱。

如果在某幾年的時(shí)間里，你看到什么新聞（不論真假）、看到哪個政客的觀點(diǎn)，以及誰能看到你的觀點(diǎn)，等等這一切都是由 Facebook 控制的，那 Facebook 就對你的政治理念和你的世界觀有了相當(dāng)?shù)挠绊憽６@也并不是什么新聞，我們已經(jīng)知道了至少從 2013 年起 Facebook 就進(jìn)行了一系列實(shí)驗(yàn)，實(shí)驗(yàn)里他們可以通過關(guān)閉信息流里的某些內(nèi)容的方式，控制不知情的被試用戶的心情和決定，以及預(yù)測這些用戶未來的行動。

簡短來說，F(xiàn)acebook 可以同時(shí)測量所有關(guān)于我們的信息，同時(shí)還控制我們接觸到哪些信息。當(dāng)你同時(shí)可以接觸到感知和行為的時(shí)候，這就變成了一個 AI 問題。那么你就可以開始為其中的人類行為建立一個優(yōu)化閉環(huán)。一個強(qiáng)化學(xué)習(xí)閉環(huán)。在這個閉環(huán)里可以觀察到目標(biāo)的當(dāng)前狀態(tài)，然后持續(xù)改進(jìn)給他們看到的信息，一直改進(jìn)到他們開始表現(xiàn)出你想看到的觀點(diǎn)和行為為止。

AI 研究里有相當(dāng)一部分內(nèi)容（尤其是 Facebook 一直在投資的這一部分），就是關(guān)于如何開發(fā)算法，盡可能高效地解決這種優(yōu)化問題的，以便能達(dá)到這樣的閉環(huán)，對其中發(fā)生的現(xiàn)象有完全的掌控。以 Facebook 這件事來講，在閉環(huán)里被掌控的就是我們自己。

人類的大腦天生就對簡單的社交控制沒有任何抵抗力，這讓達(dá)到這個目標(biāo)變得不知道有多么簡單。現(xiàn)在當(dāng)我思考這些問題的時(shí)候，我已經(jīng)不由得想起了一系列有效得令人后怕的心理攻擊手段。其中的有一些已經(jīng)在廣告業(yè)使用了很長的時(shí)間，比如正面/負(fù)面社交強(qiáng)化，只不過執(zhí)行得很弱、沒有針對任何特定目標(biāo)。

如果從信息安全的角度考慮的話，這已經(jīng)可以稱得上是「脆弱性」，可以通過已知的系統(tǒng)特性掌控整個系統(tǒng)。對于人類心智來說，這些脆弱性永遠(yuǎn)都沒有辦法修復(fù)，人類就是這樣一種生物。我們的 DNA 就是這樣的，我們的心理特點(diǎn)就是這樣的。作為人類個體，我們沒有任何有效的方法可以保護(hù)我們不受這種控制。AI 算法越來越聰明，它們對我們的所做、所信有完全的了解的同時(shí)，還對我們接收的信息有完全的控制。人類心智這個靜態(tài)的、脆弱的系統(tǒng)，在這樣的 AI 面前只會越來越淪陷。

而很重要的是，對大量人口的控制，尤其對于政治觀念的控制來說，讓 AI 控制我們看到哪些信息這樣的做法其實(shí)都不一定需要很先進(jìn)的 AI。一個沒有自我認(rèn)識的、沒有超級智能的 AI 就已經(jīng)可以是顯著的威脅。

所以，如果對大量人口的控制現(xiàn)在就已經(jīng)理論上可行的話，那為什么世界還沒有走向毀滅呢？簡單地說，我認(rèn)為是因?yàn)槲覀冏?AI 做得還太糟糕了。不過這可能也很快就要發(fā)生變化了。你們可以看到，我們的技術(shù)能力就是此處的瓶頸。

直到 2015 年為止，所有企業(yè)使用的廣告投放算法里使用的都只不過是邏輯回歸。實(shí)際上，直到今天也還有很多公司是這樣做的，只有市場里最大的玩家才切換到了更先進(jìn)的模型。這就是我們在網(wǎng)上看到的各種廣告里，有很多都顯得和自己毫無關(guān)系的原因。這些算法沒有那么復(fù)雜。類似地，敵對國家用來散播政治觀點(diǎn)的社交媒體機(jī)器人里面要么沒有 AI，要么只有一點(diǎn)點(diǎn)。它們都太初級了，目前來講。

在最近幾年里，AI 的發(fā)展突飛猛進(jìn)，而這些新的技術(shù)成果才剛剛開始部署在針對性的廣告投放和社交媒體機(jī)器人里而已。深度學(xué)習(xí)也是在 2016 年左右才開始滲透到信息流和社交網(wǎng)絡(luò)這些領(lǐng)域里。Facebook 在這些技術(shù)上都做了大規(guī)模的投資。

接下來還會發(fā)生什么誰也不知道。細(xì)想之下，F(xiàn)acebook 在 AI 科研和開發(fā)方面一直都有大規(guī)模的投資，而且很直白地希望自己成為這個領(lǐng)域的帶頭人。這告訴了我們什么呢？當(dāng)你的產(chǎn)品是信息流的時(shí)候，你需要 AI 和強(qiáng)化學(xué)習(xí)到底是為了做什么？

我們現(xiàn)在面對的是這樣一個有著強(qiáng)大力量的實(shí)體：它為超過 20 億人類分別構(gòu)建了細(xì)粒度的心理學(xué)檔案，它會做大規(guī)模的行為控制實(shí)驗(yàn)，同時(shí)它還有「開發(fā)世界上最強(qiáng)大的 AI 技術(shù)」的目標(biāo)。以我個人來講，真的是感到害怕。

如果你也在 AI 領(lǐng)域工作，請不要幫助他們。不要認(rèn)可他們的游戲規(guī)則。不要參與到他們的研究生態(tài)系統(tǒng)中。做人要有良心。

（關(guān)于「把個人的數(shù)字信息用作心理控制的手段」）有人說谷歌也是這樣的。這算得上是最懶惰的一種思維方式了，僅僅因?yàn)閮杉卤砻嫔峡雌饋碛幸恍┫嗨菩裕ㄋ鼈兌际谴笮涂萍计髽I(yè)），不代表它們就是相關(guān)聯(lián)的。根本上，我講的這些威脅并不會發(fā)生在谷歌身上。亞馬遜也不會。蘋果也不會。理論上，Twitter 是有可能的，不過實(shí)際上它基本上什么都沒做。

產(chǎn)品是不透明的信息流算法、做大規(guī)模的心情/觀點(diǎn)控制實(shí)驗(yàn)、快被操控選舉丑聞淹沒、一次又一次領(lǐng)導(dǎo)力破產(chǎn)的公司只有這樣一個。所以請不要條件反射般地以為「所有科學(xué)技術(shù)、所有廣告都是壞的」，請仔細(xì)考慮我說的實(shí)質(zhì)內(nèi)容。

對我個人來說，我是有意識地選擇了來谷歌工作的。如果我開始覺得不舒服了，那我肯定會離開。而如果我當(dāng)時(shí)選擇了去 Facebook 工作的話，我 2017 年就會離開。

我們和這個信息密度越來越高的世界之間的溝通越來越多地依賴算法并不構(gòu)成什么問題。隨著互聯(lián)網(wǎng)和 AI 的發(fā)展崛起，這個趨勢是不可避免的。真正的問題在于控制。我們需要讓用戶決定算法優(yōu)化的目標(biāo)是什么，而不是讓信息流算法控制我們，從而達(dá)到它的某些不透明的目標(biāo)（比如影響我們的政治觀點(diǎn)，或者最大化我們在信息流上浪費(fèi)的時(shí)間）。

讓用戶自己配置他們的信息流，比如盡量幫助用戶自己的學(xué)習(xí)和個人成長之類的，應(yīng)當(dāng)成為一種可能性。這樣一來，更復(fù)雜的 AI 也不再是人類的威脅，而會對我們有許多益處，可以讓我們更高效地達(dá)成自己的目標(biāo)。長期來看，我認(rèn)為教育和自我提升將會是 AI 最具影響力的應(yīng)用領(lǐng)域之一。這個動態(tài)發(fā)展的過程仿佛是現(xiàn)在這樣企圖控制我們的 AI 系統(tǒng)的一個翻版，但唯一的不同就是誰來給算法設(shè)定目標(biāo)。

對于這個數(shù)字信息構(gòu)成的世界來說，AI 就是我們和它之間的接口。它既可以讓個人和團(tuán)體有更大的力量控制自己的人生，也有可能引向被完全控制的不歸路。很遺憾的是，我們正在錯誤的方向上前進(jìn)。

從另一個角度來講，谷歌搜索、Gmail、iOS 和安卓這樣的技術(shù)產(chǎn)品對人類有益，而 Facebook 信息流對人類有害的原因正是如此。前者是主動的，它們給了用戶更多力量，讓他們能夠做更多、了解更多。后者則是控制你的世界觀，而且試著讓你在它里面盡可能多地浪費(fèi)時(shí)間。

人工智能作為一個產(chǎn)業(yè)，我們需要開發(fā)新種類的產(chǎn)品類別和市場，其中產(chǎn)品的動機(jī)是為了讓人類具有對 AI 的控制權(quán)，而不是讓 AI 利用人類的心智獲利或者影響政治。我們需要努力向著「反 Facebook」的技術(shù)產(chǎn)品前進(jìn)。

（完）

via Fran?ois Chollet  @fchollet，雷鋒網(wǎng) AI 科技評論編譯

相關(guān)文章：

Facebook千萬用戶信息泄露引發(fā)的另一思考：線下視頻監(jiān)控用戶數(shù)據(jù)如何守護(hù)？

我在 Facebook 上發(fā)了一張小狗的照片，F(xiàn)acebook 應(yīng)該付錢給我嗎？

實(shí)錘！泄漏5000萬用戶信息后，F(xiàn)acebook 成操控美國大選的工具

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。