0
| 本文作者： 劉琳 | 2020-10-26 12:32 |
蔣昌建老師的臉被“偷”了，這你能信？
甚至馬斯克、川建國(guó)、黑寡婦、美國(guó)隊(duì)長(zhǎng)的臉也被“偷”了！
這是什么大膽的操作？
更震驚的是，幕后“黑手”居然還公開承認(rèn)了。
不要懷疑，你沒有看錯(cuò)，這就是在 Geekpwn2020 上發(fā)生的真實(shí)故事。
不僅如此，在 Geekpwn 現(xiàn)場(chǎng)，有選手居然戴著印有馬斯克臉的口罩，成功取到了“美金”！
10 月 24 日，GeekPwn2020 國(guó)際安全極客大賽現(xiàn)身魔都。大賽匯聚l了全球頂尖的白帽黑客和少年極客，聚焦云、AI、5G 等前沿技術(shù) 。GeekPwn 的老朋友蔣昌建再次擔(dān)任主持人，這次跨圈聯(lián)動(dòng)讓這場(chǎng)頂級(jí)白帽黑客的攻防秀成為名副其實(shí)的最強(qiáng)大腦。
2020 年注定是會(huì)被載入史冊(cè)的一年。
今年在疫情之下，關(guān)于口罩的煩惱變得特別多。
首先是買不到。
其次就是買到口罩戴上之后，無法通過臉部識(shí)別順利解鎖手機(jī)。
于是有人就想到能不能將口罩完全模仿人臉實(shí)現(xiàn)解鎖，這樣也不用摘下口罩，避免感染。
今年 2 月，產(chǎn)品設(shè)計(jì)師 Danielle Baskin 發(fā)布了一款帶有面部信息的口罩，讓人們帶著口罩也能用 Face ID 解鎖手機(jī)。
簡(jiǎn)單來說，Danielle Baskin 想做的就是將你臉被擋住的部分打印在 N95 口罩上。這樣即便戴起口罩，從外面看你的臉依舊是完整的。
當(dāng)時(shí)，有網(wǎng)友曾討論過這類口罩的可用性及現(xiàn)實(shí)意義，大部分認(rèn)為這大可不必，與其讓我的臉印在口罩上，還不如讓人臉系統(tǒng)更聰明一點(diǎn)。
所以，后來蘋果手機(jī)也能識(shí)別戴口罩的人臉了。
那么，如果將人臉真的印在口罩上，真的能實(shí)現(xiàn)“換臉”嗎？
Geekpwn2020 給出了答案。
Al 識(shí)別一向是 GeekPwn 的拿手好戲。
前年 GAN 掉馬賽克，去年實(shí)現(xiàn)隱身夢(mèng)。今年，GeekPwn 搞了個(gè)新玩法。
隨著口罩變成必需物之后，他們?cè)谙胗袥]有人會(huì)借口罩來實(shí)現(xiàn)詐騙，成功幾率是多少呢？
所以，今年 GeekPwn 針對(duì)這個(gè)現(xiàn)實(shí)問題，展開了一項(xiàng)關(guān)于口罩變臉的挑戰(zhàn)——CAAD AI 變臉口罩挑戰(zhàn)賽，利用 AI 技術(shù)的缺陷，以 Al 對(duì)抗 Al，迷惑人臉識(shí)別算法。
今年 GeekPwn 2020 關(guān)于人臉識(shí)別分別有兩個(gè)賽段。第一賽段是上午的口罩變臉挑戰(zhàn)，第二賽段則是下午的虛擬人臉挑戰(zhàn)。
先來看上午的口罩變臉挑戰(zhàn)。
口罩變臉環(huán)節(jié)的要求是選手需要制作人臉口罩，分別將自己制作的口罩在事先模擬好的兩臺(tái)設(shè)備上去識(shí)別。
一般來說，攝像頭的識(shí)別是對(duì)輸入圖片的識(shí)別而不是立體的掃描，因此，當(dāng)選手戴著有干擾信息口罩時(shí)，傳遞給攝像頭的時(shí)候也是一個(gè)平面人臉圖片。一旦和預(yù)設(shè)人臉圖片存在一定比例的相似度，那么設(shè)備就會(huì)被成功欺騙。
自動(dòng)售貨機(jī)使用的是“白盒算法”，即 2019 年 IEEE 國(guó)際計(jì)算機(jī)視覺與模式識(shí)別會(huì)議提出的 ArcFace 算法，前兩輪挑戰(zhàn)的目標(biāo)人物依次是蔣昌建、漫威人物黑寡婦。
ATM 機(jī)使用的則是“黑盒”算法，目標(biāo)人物依次是馬斯克、漫威人物美國(guó)隊(duì)長(zhǎng)。
每輪挑戰(zhàn)限時(shí) 150 秒。
值得注意的是，選手們?cè)谔魬?zhàn)前并不知道自動(dòng)售貨機(jī)和 ATM 機(jī)所使用的是何種算法。
現(xiàn)場(chǎng)，共有 4 支隊(duì)伍應(yīng)戰(zhàn)。分別是 AFMask、海棠初白、動(dòng)動(dòng)動(dòng)動(dòng)弦以及 TSAIL。
計(jì)時(shí)開始，四隊(duì)選手們依次沖到機(jī)器前，不斷調(diào)整著口罩位置和面孔角度。
選手們準(zhǔn)備的口罩風(fēng)格各異：有些相當(dāng)寫實(shí)，選手戴上后，肉眼看上去真的和目標(biāo)人物有幾分相似；有些則“簡(jiǎn)單粗暴”，放大了目標(biāo)人物的特征，也有些選手則另辟蹊徑，利用不同的像素點(diǎn)制作五彩口罩，希望能去干擾機(jī)器的人臉識(shí)別算法。
極棒實(shí)驗(yàn)室負(fù)責(zé)人王海兵解釋說，這是因?yàn)槿四樧R(shí)別系統(tǒng)的認(rèn)人方式跟我們?nèi)祟惒灰粯?。?duì)機(jī)器來說，只要一張人臉的主要特征值符合后臺(tái)數(shù)據(jù)，就會(huì)被判定是本人。也就是說，哪怕只是一堆像素，機(jī)器能讀出特征值就行。
舞臺(tái)后方的大屏幕上實(shí)時(shí)顯示著選手挑戰(zhàn)的置信度，即機(jī)器“眼中”人臉特征值的吻合程度。
由于舞臺(tái)環(huán)境和光線的影響，整個(gè)比賽進(jìn)展得并不是很順利。
但還是有一支隊(duì)伍居然連續(xù)兩次都挑戰(zhàn)成功了，不僅成功取到了貨物，還利用印有馬斯克臉的口罩，取到了 “美金”。
全場(chǎng)沸騰了。
蔣昌建老師也驚呼：“??？這是美金！真的嗎？”
主辦方也立即解釋道，這是假的，但在比賽結(jié)束后，他們會(huì)獲得相應(yīng)的現(xiàn)金獎(jiǎng)勵(lì)。
臺(tái)下的吃瓜群眾們卻只有眼饞的份兒。
“打工人，加油！”坐在雷鋒網(wǎng)編輯身旁的幾個(gè)男生調(diào)侃道。
不過，需要注意的是，上午的實(shí)驗(yàn)也證明了口罩變臉在很大程度上是很難實(shí)現(xiàn)的，所以大家可以不必過于擔(dān)心。
如果說上午的口罩變臉只是小試牛刀，那么下午進(jìn)行的“虛假人臉 AI 識(shí)別大賽”，才是我們真正要面臨的現(xiàn)實(shí)威脅。
虛假人臉 AI 識(shí)別大賽要解決的則是“AI 換臉”帶來的一系列緊迫現(xiàn)實(shí)問題：電信詐騙、財(cái)產(chǎn)盜刷、偽造色情視頻……
雷鋒網(wǎng)此前報(bào)道，AI 不僅能變臉，還能利用 Deepfake 機(jī)器人把你的照片變成果體。
實(shí)在可怕。
幸運(yùn)的是，對(duì)于人臉識(shí)別帶來的現(xiàn)實(shí)問題，有人比我們更關(guān)注。
2019 年，F(xiàn)acebook、 微軟、亞馬遜、麻省理工等知名企業(yè)、高校，曾聯(lián)合發(fā)起一場(chǎng)針對(duì) AI 換臉視頻檢測(cè)的挑戰(zhàn)賽。挑戰(zhàn)賽于今年 3 月 31 日結(jié)束，但仍然留下了一些亟待解決的問題。
因此，今年的 GeekPwn 再度設(shè)置同類的比賽，希望幫助選手更好地調(diào)優(yōu)或精簡(jiǎn)自身的訓(xùn)練模型，提升 AI檢測(cè)方面的技術(shù)突破，與各方共同推動(dòng)更好的虛假人臉檢測(cè)方法出現(xiàn)。
比賽要求選手開發(fā) AI 檢測(cè)方法，快速、高效地識(shí)別出圖像以及視頻中的虛假人臉。這些假臉由 DeepFakes、Face2Face、FaceSwap、CycleGAN 等 AI 技術(shù)或它們的變體生成。
為了增加比賽的對(duì)抗性，主辦方還設(shè)計(jì)了攻防環(huán)節(jié)：每隊(duì)選手既要用自家的 AI 模型識(shí)別出其他隊(duì)伍的假臉，又要用假臉騙過其他隊(duì)伍的 AI 模型。
相較于上午的比賽，這場(chǎng)比賽更符合極客們的破解常態(tài)：五隊(duì)選手各自守在電腦前，操作 AI 模型生成假臉、展開攻防。
最終獲勝的是 TSAIL 戰(zhàn)隊(duì)，獲得 6 萬(wàn)元人民幣獎(jiǎng)金。
相較往年，今年 GeekPwn2020 充滿了變數(shù)，不僅僅是因?yàn)榻衲旰芏囗?xiàng)目進(jìn)行的都不甚順利，更重要的是我們身邊的 AI 攻防也在發(fā)生變化。
正如 GeekPwn 創(chuàng)始人王琦（大牛蛙）在開場(chǎng)時(shí)提到的：
七年前，不出題不命題的 GeekPwn 誕生，無論你是誰(shuí)，無論你能破解掉什么，只要是你的原創(chuàng)、首創(chuàng)都可以來到這個(gè)舞臺(tái)。七年后，GeekPwn 第 11 屆了，依然面臨著“你是誰(shuí)，你要攻破什么，你為什么要攻破它”三大靈魂拷問。
所以，對(duì)于白帽黑客們來說，攻防戰(zhàn)是一個(gè)長(zhǎng)期命題。
同時(shí)也不難看出，隨著人臉識(shí)別技術(shù)的持續(xù)發(fā)展，GeekPwn 也一直在提升賽題難度，推動(dòng)極客們不斷突破自身極限，去發(fā)現(xiàn)新技術(shù)的潛在風(fēng)險(xiǎn)。
這也是網(wǎng)絡(luò)安全的現(xiàn)實(shí)縮影：“魔高一尺道高一丈”的網(wǎng)絡(luò)攻防，永遠(yuǎn)在路上。
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
