0
| 本文作者： 貝爽 | 2020-11-22 12:18 |
Deepfake的興起，讓視頻和音頻不再是記錄歷史的可靠證據(jù)！
近日一則電影片段在YouTube爆火，影片中兩位主演分別是好萊塢兩位頂級流量巨星西爾維斯特·史泰龍（Sylvester Stallone）和阿諾·施瓦辛格（Arnold Schwarzenegger）
然而，短片爆火的原因不是兩位巨星，而是它逼真的視頻合成效果。
事實(shí)上，這部名為《Step Brothers》的電影主演是兩位小眾演員，短片創(chuàng)作者利用Deepfake將面部替換成了兩位巨型。
短片中，人臉自然、毫無痕跡的融合效果，讓不少網(wǎng)友們驚嘆：太恐怖。
但事實(shí)上，更讓人恐怖的是短片背后，Deepfake愈演愈烈的負(fù)面應(yīng)用。自2017年，某Reddit用戶首次將其用來偽造色情視頻開始，Deepfake造假已逐漸滲透到政治、媒體等多個領(lǐng)域，甚至還威脅到了今年的美國總統(tǒng)大選。
與此同時，偽造品的數(shù)量也在逐年增長，特別是在2020年再次創(chuàng)下歷史新高，達(dá)到49081個。
那么，快速增長的Deepfake有哪些特點(diǎn)，背后有哪些應(yīng)對措施？
近些年，計(jì)算機(jī)視覺技術(shù)得到飛速發(fā)展。
尤其是2014年生成式對抗網(wǎng)絡(luò)GAN的提出，讓圖像和視頻合成不斷取得驚人的效果。
2017年，這項(xiàng)技術(shù)被不良分子用來偽造了一段色情視頻，由此該技術(shù)被人們稱為“Deepfake”，后來Deepfake的負(fù)面應(yīng)用不斷發(fā)酵，并逐漸覆蓋到更廣泛的圖像、視頻，乃至音頻領(lǐng)域。
具體來說，Deepfake主要是對人臉進(jìn)行篡改和重新編輯，包括表情修改，換臉、換口型、合成新人臉?biāo)姆N模式。其中，換臉和對口型是Deepfake最主要的應(yīng)用模式，其破壞性和殺傷力也最強(qiáng)。如篡改政客公開演講以及偽造色情視頻。
值得注意的是，造假者無需了解這些修改模式背后的技術(shù)原理，諸多開源軟件，已經(jīng)可以讓他們輕松地制造虛假內(nèi)容。比如DeepFaceLab之類的工具，任何人都可以拍攝一張圖片或視頻，并替換或操縱人臉。
技術(shù)的普及和便捷性，讓造假品數(shù)量成指數(shù)級增長。根據(jù)安全分析公司Sensity最新結(jié)果顯示，
自2018年12月以來，Deepfake在線造假品的數(shù)量大約每六個月翻一番。
2019年7月Deepfake的總數(shù)達(dá)到14,678，相比于2018年12月的7964部造假視頻增加了近100％。而截至今年6月，造假視頻已多達(dá)49081個，比2019年7月增長了330％以上。
2019年，在14678個公開發(fā)布的Deepfakes作品中，假色情視頻占據(jù)了96%。
另外，根據(jù)Sensity調(diào)查分析顯示，Deepfake用來制作色情作品的目標(biāo)對象超過95%全部來自影視娛樂業(yè)，只有剩下的一小部分來自商業(yè)、新聞媒體以及政治領(lǐng)域。
而今年，影視娛樂仍然是覆蓋最廣的行業(yè)，占據(jù)了62.7％，加上時尚類別（21.7％）和運(yùn)動類別（4.4％），總計(jì)占所有目標(biāo)的88.9％。
其中，在娛樂行業(yè)62.7％的占比中，來自Instagram，Twitch以及Youtube等社交媒體的目標(biāo)對象數(shù)量顯著增加。同時，來自商業(yè)（4.1％）和政治（4％）背景的目標(biāo)對象也有所增加。
值得注意的是，上述4%政治背景的目標(biāo)對象，主要集中在一些知名政客身上，如特朗普、奧巴馬等。信息時代，利用這些政客身份偽造虛假政治言論，可能會造成災(zāi)難性成果。
尤其是隨著技術(shù)的提升，偽造品越來越難以用肉眼分辨。去年，一名馬來西亞政治家就因涉嫌從事同性戀活動的視頻而被判入獄（在馬來西亞同性戀是非法的），但后來證實(shí)該視頻是Deepfake偽造的。
另外，比利時政治團(tuán)體也曾利用Deepfake偽造了一段特朗普關(guān)于巴黎氣候協(xié)定的演講視頻，在當(dāng)時產(chǎn)生了不小的轟動。
不過，總體來看，大部分有關(guān)政客的虛假作品還多以諷刺為目的。
另外，這些虛假作品有明顯的地區(qū)分別特點(diǎn)。從Sensity的統(tǒng)計(jì)結(jié)果來看，政客偽造品主要集中在西方國家，尤其是美國和英國。同時，韓國和印度在今年也成為了主要目標(biāo)。
圖中，美國和英國在整體中占據(jù)了61%，超過了一半。韓國（9.6%），印度（5.0）和日本（4.0）也構(gòu)成了很大一部分?？傮w來看，說明亞洲的政治造假活動在持續(xù)增長。
Deepfake的危害無需再多說。
為了應(yīng)對日益泛濫的偽造品，學(xué)、政界和各大企業(yè)也在聯(lián)合發(fā)力，研發(fā)反Deepfake技術(shù)。
值得一提的是，Kaggle和Facebook已經(jīng)舉辦了多場Deepfake探測器研發(fā)競賽，并收集了大量用于訓(xùn)練的數(shù)據(jù)集。
Deepfake檢測器，主要通過對大量圖像和視頻進(jìn)行訓(xùn)練，并從中查找不同的Deepfake標(biāo)識符來鑒別內(nèi)容真?zhèn)?。目前最先進(jìn)的監(jiān)測手段，分為以下幾種：
人臉X射線（ Face X-ray）檢測：它是一種將假臉重新混入目標(biāo)圖像或視頻，以從中尋找邊界的方法。經(jīng)過FaceForensics 數(shù)據(jù)集上測試，精準(zhǔn)度可達(dá)99%以上。（https://arxiv.org/abs/1912.13458）
背景差異檢測：該方法通過將人臉區(qū)域與背景區(qū)域進(jìn)行對比，從中尋找微小差異以辨別真假。（https://arxiv.org/pdf/2008.12262.pdf）
情緒識別網(wǎng)絡(luò)（Emotion Recognition Network）：該方法通過檢測面部情緒是否與場景上下文或音頻內(nèi)容相匹配，來確定視頻是真是偽。（https://arxiv.org/abs/2003.06711）
生物學(xué)信號：通過檢測視頻目標(biāo)的心跳并分析該信號的殘差確定真假，該方法的準(zhǔn)確率已達(dá)到97.29%，同時還可以檢測背后所用的Deepfake模型。（https://arxiv.org/pdf/2008.11363.pdf）
以上大多數(shù)這些Deepfake檢測方法都沒有可用的開源代碼，不過，目前也有一些商業(yè)上可用的API，例如Sensity，Deepware，以及微軟的 Video Authenticator。
此外，要說明的是，雖然人臉X射線檢測法精度已經(jīng)達(dá)到99%，但它僅限于FaceForensics數(shù)據(jù)集，對于“Wild”數(shù)據(jù)集可能并不適用，很多其他檢測工具也是如此。
一位研究人員證實(shí)說，他上述某款模型用于《Step Brothers》和川普偽造視頻檢測，結(jié)果并不能證偽。盡管川普的偽造視頻有明顯的缺陷（嘴邊周圍有合成痕跡）
因此，在特定Deepfake檢測數(shù)據(jù)集上表現(xiàn)良好的模型，在現(xiàn)實(shí)世界中也不一定達(dá)到理想效果。
但慶幸的是，高質(zhì)量的Deepfake造假品仍需要人工干預(yù)來完善輸出，這會極大地減慢傳播速度，并為改進(jìn)Deepfake檢測模型提供時間。
引用鏈接：
https://www.skynettoday.com/overviews/state-of-deepfakes-2020
https://sensity.ai/deepfake-threat-intelligence-a-statistics-snapshot-from-june-2020/
https://www.creativebloq.com/news/the-irishman-deepfake
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
