1
在AI 人臉技術(shù)下,每個人都可能成為受害者。
在交易網(wǎng)站上,搜索換臉的關(guān)鍵詞,就會彈出購買信息。有的商家不僅提供成品的視頻,還接受買家的專屬訂制,只要買家提供20張照片,就可以做出任何人的“小黃片”。
想想是不是還有點激動?
誰在買賣你的臉?
那么問題來了,究竟誰是幕后操手?
據(jù)新京報報道,近日,新京報調(diào)查發(fā)現(xiàn),網(wǎng)上有一些私下售賣人臉數(shù)據(jù)的賣家,有發(fā)帖者稱8元可買3萬張人臉照片。有賣家表示可以提供“更多渠道”的人臉圖片,按照3000元可買24000套人臉照片來計算,相當于一套只要一毛多。還有賣家表示,其出售的照片大部分來自朋友圈,且沒有取得對方同意。
除此之外,在IT社區(qū)、網(wǎng)絡(luò)商城等多個平臺搜索發(fā)現(xiàn),有不少人臉照片可供免費下載或付費購買。付費金額由帖子發(fā)布者自定,多在10元到20元左右,如有發(fā)帖者表示可以“8元購買60名志愿者的每人500張照片,共計3萬張照片”。
據(jù)了解,在IT社區(qū)中可公開下載的照片標記為外國研究機構(gòu)提供的國外志愿者照片,如有帖子表示“耶魯大學(xué)AR人臉數(shù)據(jù)庫、卡耐基梅隆大學(xué)PIE數(shù)據(jù)庫等打包賣15元”,這些圖片是為了訓(xùn)練人臉識別專門搭建的數(shù)據(jù)集,圖片質(zhì)量較好。
不過,也有部分照片來源于網(wǎng)站爬取。我們隨機選取五張照片在百度識圖搜索后發(fā)現(xiàn),其中一張照片為一名香港藝人。而搜索與該藝人名字相關(guān)的圖片后發(fā)現(xiàn),所下載的人臉圖片的來源五花八門,有的截取自娛樂新聞網(wǎng)站的新聞圖片,也有博客發(fā)布的博文配圖。
值得注意的是,有的圖片來自于已刪除的博客,但仍然可以在搜索引擎搜索到相關(guān)圖片,只不過源網(wǎng)頁顯示“內(nèi)容已刪除”。對于可直接下載的圖片,有發(fā)布者表示,其提供的數(shù)據(jù)集可以任意拿來下載研究,“只要別用在商業(yè)和不正當用途就可以了”。
這樣看來,我們大致可以推測AI換臉儼然已經(jīng)成了一個黑灰產(chǎn)業(yè)鏈。
那么,這個產(chǎn)業(yè)鏈的上下游究竟是怎樣的?
產(chǎn)業(yè)鏈的上游首先是要獲取信息源。數(shù)字聯(lián)盟聯(lián)合創(chuàng)始人劉晶晶向雷鋒網(wǎng)表示:“目前,電商出售的人臉認證技術(shù)來源主要是三個方面:一是通過木馬程序,后臺自動啟動前置攝像頭捕獲人臉狀態(tài);二是通過數(shù)據(jù)黑市買賣的真實用戶在某些APP、網(wǎng)站中的 人臉驗證信息,三是通過免費贈送小禮品,騙取用戶人臉等級信息?!?/p>
產(chǎn)業(yè)鏈的下游則是通過模擬器、篡改設(shè)備等自動完成注冊、登陸和導(dǎo)入人臉信息完成注冊,可全部自動化操作。
而在黑產(chǎn)業(yè)內(nèi)通常將以上資料統(tǒng)稱為“料”,販賣人士則被稱為“料商”。每條“料”價位在1元左右, 黑產(chǎn)人士則利用這個技術(shù)來賺取傭金。
由于目前各大電商、社交APP均已增加了人臉識別機制,且機場、車站等也紛紛采取類似技術(shù),如何保障存儲安全、如何確保認證唯一,都是極為關(guān)鍵的安全建設(shè)問題。一旦不慎,大量人臉識別庫、算法和統(tǒng)計維度、規(guī)則泄漏,將直接導(dǎo)致黑產(chǎn)可利用數(shù)據(jù)黑市買賣相關(guān)信息,從而批量進行冒名注冊,甚至假借真實用戶名義騙貸,隱患極大。
加之,人臉識別技術(shù)主要依靠固定的算法去匹配輸入信息,如通過是否能完成固定動作來確認其是否為動態(tài)或者靜態(tài)。一旦對應(yīng)相關(guān)的匹配節(jié)點進行模擬,就可能直接繞過,比如通過多幀照片快播模擬在固定角度的上下抬頭、左右搖頭等。而存儲相關(guān)認證信息的機構(gòu)繁雜,缺少一定的安全管理和明確的隱私信息泄漏后的追責(zé)機制,一旦大量認證信息外泄,便可能被廣泛利用。
所以,劉晶晶建議大家應(yīng)該同時注意對賬號和人臉信息對應(yīng)等級的設(shè)備唯一性進行判斷,通過可信ID實時甄別設(shè)備的唯一性,避免黑產(chǎn)通過模擬器、篡改設(shè)備等批量偽造大量信息注冊信息。
人臉識別技術(shù)“背鍋”?
這是否意味著人臉識別技術(shù)一定會催生大量的黑灰產(chǎn)業(yè)鏈呢?答案是否定的。
事實上,這些采集和存儲數(shù)據(jù)的旁門左道和人臉技術(shù)本身就是兩碼事。身份證電話泄露可以被不法分子用來進行詐騙活動,而人臉數(shù)據(jù)泄露被直接利用的案例現(xiàn)在其實很少,很多人提到的“假視頻制作”其實目前除了被用來惡搞,并無可以參考的真實犯罪案例。
芯盾時代副總裁杜旭向雷鋒網(wǎng)透露,目前人臉數(shù)據(jù)泄露并沒有產(chǎn)生大規(guī)模黑產(chǎn),雖然已經(jīng)有些已知的案例,但整體來看,人臉識別數(shù)據(jù)直接導(dǎo)致的案例量級很小。
“其實隱私被侵犯,主要是指線上服務(wù)和交易系統(tǒng)中對敏感數(shù)據(jù)采集、存儲、使用以及共享等環(huán)節(jié)出現(xiàn)的問題。這與人臉識別以及其他生物識別技術(shù)無關(guān),屬于應(yīng)用系統(tǒng)問題,只能說AI換臉技術(shù)是一種輔助手段?!?br/>
“在沒有跟其他‘信息’做關(guān)聯(lián)的情況下,本身并不會帶來太多危害,但是假如同時能獲取這個人的身份證、電話、具體消費出行信息以及行為蹤跡,那么危害就很直接了?!?br/>
我們必須承認的一個殘酷事實是發(fā)展技術(shù)就必然會犧牲一部分隱私。所以,我們是放棄發(fā)展這項技術(shù)而保護隱私?還是讓出隱私來發(fā)展技術(shù)?
都不是。
「薛定諤的貓」這個理論說的是,當一件事情發(fā)生的時候,它帶來的影響是不確定的。
有可能是好的一面,也有可能是不好的一面。
顯然,AI識別人臉技術(shù),目前就是一只薛定諤的貓。但技術(shù)本無對錯,只是人心有善惡。
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。