0
| 本文作者： 付靜 | 2020-06-13 15:39 |
不否認(rèn)已有的成績，但問題還沒解決。
為應(yīng)對自 2017 年起引起全球恐慌的「AI 大毒瘤」Deepfake，政府、企業(yè)、學(xué)界聯(lián)合發(fā)力。
2019 年，F(xiàn)acebook 斥巨資發(fā)起“Deepfake 檢測挑戰(zhàn)賽”（Deepfake Detection Challenge，DFDC）。最近，Deepfake 檢測挑戰(zhàn)賽首個(gè)結(jié)果新鮮出爐，識別準(zhǔn)確率最高可達(dá) 82.56%，黑盒測試準(zhǔn)確率最高為 65.18%。
故事源于 2017 年。
美國社交新聞網(wǎng)站 Reddit 一位名為 Deepfakes 的用戶利用 AI 把《神奇女俠》女主角 Cal Gadot 的臉嫁接到一個(gè)成人電影女主身上，偽造了一段色情視頻 po 上網(wǎng)絡(luò)。
視頻火了，Deepfake 技術(shù)也火了。
從技術(shù)角度來看，Deepfake 是種深度自動(dòng)編解碼器模型（Autoencoder-Decoder），通過用源人物和目標(biāo)人物的至少幾百張照片，訓(xùn)練模型分別識別、還原兩人面部的能力，最后用源人物的照片搭配目標(biāo)人物的解碼器，從而完成轉(zhuǎn)換。
毫無疑問，用戶 Deepfakes 上傳的視頻涉及色情內(nèi)容，且侵犯到了他人隱私，Reddit 官方自然而然地將其封號。不過，Deepfakes 也很剛，作為報(bào)復(fù)，直接把視頻的 AI 代碼免費(fèi)公開。
此后，AI 大毒瘤開始迅速發(fā)酵——荷蘭網(wǎng)絡(luò)安全初創(chuàng)公司 Deeptrace 2019 年 10 月發(fā)布的關(guān)于 Deepfake 現(xiàn)狀的報(bào)告指出，Deepfake 視頻中 96% 涉及色情，在各大色情網(wǎng)站上瘋傳，所有受害者均為女性，娛樂圈名人成為主要被惡搞的對象。
可見，Deepfake 有著極其惡劣的影響，指不定哪天登上奇奇怪怪的網(wǎng)站連自己都不知道，真是細(xì)思極恐。
這還沒完，Deepfake 也被卷入了政治中——比如，由于同性性關(guān)系在馬來西亞屬違法行為，2019 年一段馬來西亞經(jīng)濟(jì)部長 Azmin Ali 與男性發(fā)生性關(guān)系的視頻曝光后攪動(dòng)了政局，不過 Azmin Ali 表示視頻屬 Deepfake 技術(shù)偽造，認(rèn)為“這是場政治陰謀”。
基于此，政府、企業(yè)、學(xué)界下定決心聯(lián)合起來清除毒瘤。
2019 年 9 月 5 日，F(xiàn)acebook CTO Mike Schroepfer 宣布，F(xiàn)acebook 正與微軟聯(lián)合包括麻省理工學(xué)院、牛津大學(xué)、康奈爾科技校區(qū)和伯克利大學(xué)在內(nèi)的多所大學(xué)研究檢測 Deepfake 的方法，同時(shí)非營利性研究組織 Partnership on AI 也參與其中，該組織的成員包括 Google、蘋果、亞馬遜、IBM 等大型科技公司。
同時(shí)，F(xiàn)acebook 投入了 1000 萬美元發(fā)起“Deepfake 檢測挑戰(zhàn)賽”（Deepfake Detection Challenge，DFDC），競賽于 2019 年末在溫哥華舉行的 NeurIPS 2019 上正式啟動(dòng)，旨在激勵(lì)研究人員以及業(yè)余愛好者尋找能夠識別出由 AI 操縱的視頻算法。
具體來講，F(xiàn)acebook 雇傭了 3000 多名不同性別、膚色、種族、年齡的演員錄制了大約 10 萬個(gè)視頻片段數(shù)據(jù)集，其中一部分經(jīng)過了 AI 的修改，把別人的臉貼在視頻里。
雷鋒網(wǎng)了解到，F(xiàn)acebook 利用了多種 Deepfake 生成模型、諸如圖像增強(qiáng)之類的細(xì)化技術(shù)以及諸如模糊、幀率修改和覆蓋之類的增強(qiáng)和干擾。這樣做的目的就是，使數(shù)據(jù)集能夠涵蓋實(shí)際可能存在的任何類型視頻。
為確保挑戰(zhàn)賽能達(dá)到預(yù)期的效果，F(xiàn)acebook 與康奈爾大學(xué)、麻省理工學(xué)院、慕尼黑技術(shù)大學(xué)、加州大學(xué)伯克利分校、奧爾巴尼桑尼大學(xué)、馬里蘭大學(xué)、那不勒斯費(fèi)德里科二世大學(xué)以及牛津大學(xué)的專家合作，收集反饋和建議。
下圖是 Facebook AI 官方給出的挑戰(zhàn)賽時(shí)間節(jié)點(diǎn)。
可以看出，自 2019 年 12 月 11 日正式啟動(dòng)以來，比賽如火如荼地展開，截止 2020 年 3 月 31 日，約 2114 名參賽者提交了超過 35000 種檢測算法。隨后的 4-5 月，研究人員對參賽者識別視頻的能力進(jìn)行測試，從而評選獲勝者。
終于，當(dāng)?shù)貢r(shí)間 2020 年 6 月 12 日，F(xiàn)acebook AI 團(tuán)隊(duì)公布 Deepfake 檢測挑戰(zhàn)賽首個(gè)結(jié)果——視頻識別算法準(zhǔn)確率最高可達(dá) 82.56%，不過在黑盒測試（black box）中準(zhǔn)確率最高為 65.18%，這表明特定場景的 Deepfake 視頻仍具有挑戰(zhàn)性。
實(shí)際上，檢測 Deepfake 的一個(gè)核心挑戰(zhàn)就是將新的場景歸到已知的例子中，因此難度升級，參賽者須設(shè)計(jì)即使在不可預(yù)見的情況下也可能有效的模型。每個(gè)參賽隊(duì)伍的方案都必須經(jīng)過黑盒測試，黑盒數(shù)據(jù)集包括 10000 個(gè)比賽參與者無法獲得的視頻，既有可以在網(wǎng)上找到的視頻（有真有假），也包含專門為挑戰(zhàn)賽制作的視頻。
經(jīng)過 2 個(gè)月重重篩選，排名總算出爐。
獲勝者的 ID 都不簡單，比如第四名【Eighteen years old】一不小心暴露了年齡，第七名【All Faces Are Real】表達(dá)了美好愿望，第九名【名偵探柯西】也是業(yè)務(wù)能力過硬。
還有推特小伙激動(dòng)地表示：
仍然不敢相信我們榜上有名！
與此同時(shí)，F(xiàn)acebook AI 官方表示，參賽者已經(jīng)做出了喜人的成績，但離自動(dòng)化系統(tǒng)可靠地識別出 Deepfake 內(nèi)容確實(shí)還有一段距離。
Facebook CTO Mike Schroepfer 也在新聞發(fā)布會(huì)上表示，他對這項(xiàng)挑戰(zhàn)賽的結(jié)果感到滿意，他認(rèn)為這將為研究人員建立標(biāo)準(zhǔn)，有利于之后的進(jìn)一步研究：
老實(shí)說，這場比賽比我想象的更成功。
實(shí)際上，Mike Schroepfer 還表示：
Facebook 目前正在獨(dú)立開發(fā)自己的 Deepfake 檢測技術(shù)，我們也會(huì)根據(jù)比賽過程中得到的一些經(jīng)驗(yàn)對我們的技術(shù)進(jìn)行改進(jìn)。
另外雷鋒網(wǎng)了解到，在即將到來的的計(jì)算機(jī)視覺領(lǐng)域“奧斯卡”CVPR 2020（2020 年國際計(jì)算機(jī)視覺與模式識別會(huì)議）上，F(xiàn)acebook 還將分享后續(xù)的計(jì)劃、公開挑戰(zhàn)賽的原始數(shù)據(jù)集，并開放獲勝算法的源代碼，從而為其他參賽隊(duì)伍提供借鑒，但 Facebook 將對自己的檢測技術(shù)保密，防止逆向工程。
目前看來，想要完全關(guān)上 Deepfake 潘多拉的魔盒，還有很長的路要走。后續(xù)研究進(jìn)展如何，雷鋒網(wǎng)將持續(xù)關(guān)注。
引用來源：
https://ai.facebook.com/blog/deepfake-detection-challenge-results-an-open-initiative-to-advance-ai
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
