0
| 本文作者： 宗仁 | 2017-03-17 11:25 |
雷鋒網(wǎng)【AI科技評論】按：昨晚的央視315晚會上，人臉識別技術(shù)被曝存在安全隱患。不少觀眾看到主持人在現(xiàn)場技術(shù)人員支持下，僅憑兩部手機(jī)、一張隨機(jī)正面照片及一個換臉APP，分別就一張”眨眨眼”的照片和一段”活體檢測”場景模擬，成功“攻破”人臉識別系統(tǒng)。
一般業(yè)內(nèi)人士看到的是主持人手里所持人臉識別App的技術(shù)漏洞；但對于普通觀眾來說，他們看到的是一個不甚熟悉的高科技技術(shù)應(yīng)用背后的“巨大風(fēng)險”——人臉識別怎么會被破解？為什么一個換臉App軟件就能輕松換臉？它會不會分分鐘“掏空”我的賬戶……經(jīng)由央視這個2C平臺一放大，即使只是出于提醒消費者的出發(fā)點，以百度，曠視，云從，商湯為首的這些被影響的企業(yè)，從昨晚開始，就開始紛紛對此做出回應(yīng)。
節(jié)目結(jié)束僅僅5分鐘，百度深度學(xué)習(xí)實驗室主任林元慶便被邀請在百度科技園的人臉識別閘機(jī)做一次親身驗證，看百度人臉識別系統(tǒng)究竟能否被一段視頻“騙過”。以下是視頻回放：
從視頻中，我們可以看到，檢測結(jié)果是：林元慶首先對手機(jī)錄制了一段包括眨眼、轉(zhuǎn)頭等動作的真人視頻，然后手持手機(jī)，將該視頻在人臉識別閘機(jī)的攝像頭前播放，以模擬晚會的場景后，百度人臉閘機(jī)顯示“禁止通過”。
Face++相關(guān)人員一早就在跟AI科技評論討論這個事，后面他們也以視頻的形式，來“介紹”了央視現(xiàn)場的攻擊原理與防攻擊要點：
從攻擊內(nèi)容上，主持人將自己的臉換成現(xiàn)場一名觀眾微博照片里的臉，這是一個基于軟件合成的換臉攻擊，又可叫虛擬人臉攻擊，這種攻擊不可避免的會留下圖像修改痕跡。Face++ 通過機(jī)器學(xué)習(xí)算法提取被修改后圖像特有局部與全局視覺特征，并對潛在的攻擊模式進(jìn)行在線歸檔與分類，從而實現(xiàn)對這類攻擊的防御。
2. 從攻擊介質(zhì)上， 主持人將自己的手機(jī)對準(zhǔn)大屏這是一個屏幕翻拍攻擊。而屏幕翻拍在底層視覺特征、環(huán)境圖像特征等方面均與真人實拍有顯著差異。對此，曠視專門研發(fā)了基于屏幕翻拍綜合檢查的防范技術(shù)，實現(xiàn)對此類攻擊的隔離。
緊接著曠視的防攻擊小組也第一時間復(fù)現(xiàn)了場景，讓兩位工作人員通過換臉工具進(jìn)行攻擊：
相對于百度和Face++的視頻回?fù)簦茝目萍加玫暮唵蔚奈淖中问?，在他們的微信上他們重點闡述到：
做過安全的人都知道，絕對的安全等于無限的成本。AES加密也能被很快破解，但商用256位足夠了，花費破解的成本比破解后的利益還大。
首先，人臉識別在金融身份核驗的用途上，通常是作為交叉驗證增強安全性，只會比以往單用密碼更安全，并且還存在其他驗證手段與人臉識別形成多重驗證。其次，從face2face的技術(shù)原理來講，需要收集很多的被模仿人的人臉數(shù)據(jù)，再加上比較先進(jìn)的人臉識別技術(shù)支撐，才可以模仿該人臉。
從防范攻擊上來講，被模擬的視頻需要通過非常高的技術(shù)手段才能夠傳輸?shù)綉?yīng)用軟件里面去，有這種技術(shù)力量，任何系統(tǒng)都存在風(fēng)險；而直接通過視頻或者圖片攻擊，完全可以被現(xiàn)在的紅外或者一些動作判斷的活體手段所識別出來。
商湯-從“犯罪”線索角度進(jìn)行回應(yīng)
商湯科技沒有拍視頻，也沒有撰寫新的聲明，不過他們扒出來之前一篇技術(shù)背后秘密的核心闡述，重點從“犯罪”線索角度進(jìn)行了回?fù)簟?/span>
跟您聊聊技術(shù)后面的秘密：傳統(tǒng)的人臉防偽方法一般通過用戶的動作，例如：眨眼、張嘴、點頭、搖頭、微笑、眼動等，作為防偽線索，即我們常說的活體檢測。這種方法會有一個漏洞，就是難以防住真人視頻或者合成的視頻（例如3D模型或者換臉?biāo)惴ǎ?/span>
而當(dāng)（比）前（如）優(yōu)（商）秀（湯）的人臉防偽（活體檢測）會采用全新的方法，它與傳統(tǒng)方法的最大不同點就在于更加關(guān)注偽造內(nèi)容本身的介質(zhì)屬性，以及合成的視頻/圖像與自然視頻/圖像的差異。
由于真人視頻或者合成的視頻，必然需要通過屏幕進(jìn)行顯示，然后使用采集端進(jìn)行翻拍。雖然視頻本身可能做到看起來非常真實，但是翻拍的過程中，必然會暴露出“犯罪”線索，例如：顯示器邊緣，屏幕反光，摩爾紋，像素點紋理，鏡頭畸變等。有些線索可能會很細(xì)微，以至人眼常常難以察覺，而計算機(jī)可以察覺在hack過程中這些的細(xì)微的線索。
整個315晚會人臉識別隱患事件，經(jīng)過一天的發(fā)酵后，業(yè)內(nèi)人士其實都開始冷靜和客觀下來了。比如，
山世光博士在今天表示：
這肯定會是一場曠日持久的攻防博弈游戲。
第四范式的戴文淵則表示：
在這個場景里，人臉識別本質(zhì)上是一種反欺詐技術(shù)，無論做多少改進(jìn)，欺詐團(tuán)伙一定不會束手就擒，會開發(fā)更多欺詐手段。欺詐與反欺詐永遠(yuǎn)都是博弈的過程，反欺詐技術(shù)也不應(yīng)該局限于人臉識別。更完美的解決方案是閉環(huán)的強化學(xué)習(xí)反欺詐方案。
云從的周曦在之前AI科技評論所做的公開課里，被問到”云從最近在雙創(chuàng)周展示了“1秒刷臉支付”，但近日也爆出最新木馬Acecard 可以刷用戶照片盜取權(quán)限進(jìn)行惡意操作，怎么從技術(shù)上防止這類問題？“這種人臉識別在實際應(yīng)用場景的問題中。則用實際行業(yè)經(jīng)驗表示：
銀行對于安全的要求是非常極致的。我們的方法是對人臉采集系統(tǒng)采集的人臉，均用云從研究的圖片加密方式對人臉圖片進(jìn)行了隱式的水印加密處理。云從的人臉識別系統(tǒng)后端進(jìn)行識別時，會判斷人臉圖片是否為云從采集并且加密的人臉圖片。且這種加密方式需要的加密模板和加密參數(shù)很復(fù)雜，一般無法破解。
包括這次315晚會背后的換臉App提供者，360人工智能研究院，其院長顏水成也在事后的采訪中建議：
相關(guān)技術(shù)廠商不僅要關(guān)注人臉比對的準(zhǔn)確率，還應(yīng)關(guān)注活體檢測及人臉識別系統(tǒng)的使用場景，提高研發(fā)能力，在涉及隱私、支付等場景使用時，應(yīng)當(dāng)將人臉與聲紋、指紋、虹膜及其他生物認(rèn)證信號相融合，多個方面同時發(fā)力，從而提高安全門檻，保障用戶安全。
從技術(shù)的角度上，人臉識別同以往任何一個服務(wù)于安全領(lǐng)域的技術(shù)一樣，有其門檻和局限性；但從實際應(yīng)用的角度上，各個廠商在和客戶深入合作的過程中，一般會比觀眾更早遇到晚會里大家擔(dān)心的問題。就算他們自己不自覺，他們的客戶也會提醒他們潛藏在暗處的欺詐團(tuán)隊們的各種手段和隱憂，務(wù)必要求技術(shù)提供方在保證一定用戶體驗的同時，盡量將人臉與聲紋、指紋、虹膜及其他生物認(rèn)證信號相融合來提高安全門檻。
套用云從科技比較老練的說法：
“做過安全的人都知道，絕對的安全等于無限的成本。AES加密也能被很快破解，但商用的256位足夠了，花費破解的成本比破解后的利益還大。……我們要正面看待此次315事件，輿論上的熱點讓主要面向B端的人臉識別廠家有機(jī)會做一次科普：攻擊和被攻擊本來就是一個矛和盾的過程，一直在相互博弈，使技術(shù)往更好的方向去發(fā)展。”
人臉識別的安全跟安全行業(yè)以往任何一個領(lǐng)域的性質(zhì)一樣，這是一場持久的攻堅戰(zhàn)。就像大家非常熟悉的銀行卡安全問題，5年前我們都用著招商銀行普通的磁條卡，今天基本上都被換成了芯片卡，最近又加了一個人臉識別，如果單說安全加密手段，銀行方面的升級就從來沒有停止過，因為其本身從來都沒有”絕對安全”這一說法。
文章由雷鋒網(wǎng)【AI科技評論】獨家整理，未經(jīng)雷鋒網(wǎng)雷鋒網(wǎng)【AI科技評論】授權(quán)，拒絕轉(zhuǎn)載。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
