當(dāng) Adrian Luowig講述理想的計算機(jī)安全方法時，他不是將其比喻為鎖或防火墻或城堡周圍的護(hù)城河，他說，計算機(jī)安全應(yīng)該像信用卡業(yè)務(wù)一樣。

他解釋說，信用卡公司并不能消除風(fēng)險。它只能管理風(fēng)險，把市場作為一個整體的數(shù)據(jù)來為每個人建立不同的風(fēng)險（和不同的利率）。Ludwig認(rèn)為，計算機(jī)安全應(yīng)該以大致相同的方式工作。 “安全社區(qū)如何規(guī)定是非黑白、好與壞？”他說。 “除非我們接受灰色地帶，否則將是全黑的?！?/p>

Ludwig在谷歌工作，負(fù)責(zé)Android的安全，該移動操作系統(tǒng)，總是包含盡可能多的手機(jī)制造商，應(yīng)用程序和人。但他和同事們的目標(biāo)是把這個辦法用在一個新的方向。他解釋說，如果安全的未來在于管理風(fēng)險，那么安全的未來就是機(jī)器學(xué)習(xí)，人工智能的同一品種已經(jīng)證明在谷歌帝國的很多其他地方非常成功。我們不應(yīng)該編寫旨在停止一切網(wǎng)絡(luò)攻擊的強(qiáng)硬和快速的數(shù)字規(guī)定，隨著互聯(lián)網(wǎng)變得更加復(fù)雜，隨著它的普及，這樣做最終會導(dǎo)致大家都關(guān)閉起來。相反，我們應(yīng)該建立一個可以分析較大范圍和學(xué)會識別動態(tài)潛在問題的系統(tǒng)。

Ludwig用信用卡公司的比喻把谷歌和其主要競爭對手蘋果，區(qū)分開來，因?yàn)樘O果對iPhone死死地控制住。坦白說，蘋果的安全模式確實(shí)有它的優(yōu)勢。美國聯(lián)邦通信委員會正在調(diào)查為什么修補(bǔ)Android手機(jī)的漏洞需要這么久，這一問題很可能是谷歌有這么多不同的手機(jī)制造商，和支離破碎的Android系統(tǒng)的結(jié)果。而蘋果僅僅是和一個手機(jī)制造商打交道：它本身。但Ludwig的觀點(diǎn)是，在放任和鎖定之間可以有一個中間地帶。而這涉及到機(jī)器學(xué)習(xí)，包括越來越重要的人工智能技術(shù)深層神經(jīng)網(wǎng)絡(luò)。

“如果你有10億個設(shè)備，不管你的安全做得有多好，它們中的一些始終會有漏洞，其中一些將受到損害。”Ludwig說。在加盟谷歌之前，他在國家安全局呆了8年，并在安全咨詢公司@stake工作一段時間。 “要管理這么多設(shè)備，你需要數(shù)據(jù)，而且還需要分析它。”

初創(chuàng)Deep Instinct

他不是唯一一個推動這個大想法的人。百度也在使用深層神經(jīng)網(wǎng)絡(luò)識別惡意軟件。同時還有安全的初創(chuàng)公司，如Deep Instinct和Cylance。正如一個神經(jīng)網(wǎng)絡(luò)可以識別照片的具體特點(diǎn)，它也可以識別惡意軟件的應(yīng)用程序，或可能暴露你的手機(jī)給惡意黑客有點(diǎn)缺陷的操作系統(tǒng)代碼。

但革命的時機(jī)還沒到。谷歌的努力仍處于早期階段。 “這不是一個科學(xué)實(shí)驗(yàn)。它是真實(shí)的。但它不是最優(yōu)的解決方案。”Ludwig說。目前，谷歌還沒有足夠的問題來訓(xùn)練神經(jīng)網(wǎng)絡(luò)?！按蠖鄶?shù)應(yīng)用程序的安全性都很好。不過也有一些糟糕的?！昂蚅udwig一起工作的Rich Cannings說。諷刺的是，要真正“擁抱”機(jī)器學(xué)習(xí)，谷歌需要更多的Android問題來灌輸神經(jīng)網(wǎng)絡(luò)或完善神經(jīng)網(wǎng)絡(luò)。

并不是說Android的安全記錄是一塵不染。 “一年前，”在名為Zimperium安全裝備工作，最近在Android中發(fā)現(xiàn)了顯著串漏洞的研究人員Joshua Drake說，“我真的覺得Android沒有在安全方面投資任何東西?！倍覚C(jī)器學(xué)習(xí)不是萬能藥。它不能幫助谷歌發(fā)放安全補(bǔ)丁給所有的Android手機(jī)制造商。但它可以幫助識別安全漏洞，如果目前的技術(shù)完善的話。

“門衛(wèi)”Bouncer

Sebastian Porst運(yùn)行谷歌的團(tuán)隊，負(fù)責(zé)辨別可能出現(xiàn)在Android手機(jī)上的任何惡意或脆弱的應(yīng)用。他希望機(jī)器能取得自己的工作， “這是我們的目標(biāo)?！彼f。

在谷歌，這可以說是很尋常的態(tài)度。事實(shí)上，這是驅(qū)使該公司運(yùn)作方式的理念。 “我們團(tuán)隊的人會很快因?yàn)槭止?zhí)行任務(wù)變得無聊，有編寫軟件來取代他們以前的手工工作的技能?！盉en Treynor Sloss說，負(fù)責(zé)保持谷歌在線服務(wù)啟動和運(yùn)行。

在Android安全團(tuán)隊內(nèi)部，這方面的努力還不是很久遠(yuǎn)，但Porst和他的團(tuán)隊已經(jīng)建立了一個自動化系統(tǒng)Bouncer。該系統(tǒng)會分析每一個上傳到谷歌Play商店的應(yīng)用程序，尋找惡意或其他有問題的軟件代碼，然后運(yùn)行每個應(yīng)用程序，以分析它們的行為。這也關(guān)系到了谷歌的網(wǎng)絡(luò)爬蟲——谷歌搜索引擎的指標(biāo)工具，因此它可以自動掃描上傳到隨機(jī)網(wǎng)站的Android應(yīng)用。 “我們盡最大的努力在源頭掃描每個應(yīng)用程序?！盤orst說。如果一個未知的應(yīng)用程序被下載到一定數(shù)量的Android手機(jī)上，系統(tǒng)會“抓住”它，同時分析它的代碼和行為。

在過去，Bouncer根據(jù)一組預(yù)定義的規(guī)則進(jìn)行操作。但現(xiàn)在，在努力磨練系統(tǒng)的同時，谷歌還在依靠機(jī)器學(xué)習(xí)。在掃描所有這些應(yīng)用程序后，該系統(tǒng)已經(jīng)收集了每個程序大量的數(shù)據(jù)，Porst稱之為“信號”——定義程序的特點(diǎn)和行為。目前，團(tuán)隊正在把這些信號灌輸給神經(jīng)網(wǎng)絡(luò)，以便系統(tǒng)可以了解哪些特征的組合表明惡意軟件。 “我們可以用機(jī)器學(xué)習(xí)弄清楚哪些信號實(shí)際上具有潛在有害的行為，哪些是完全無害的，”Porst說。

這的確很有用，但還不足夠。目前，Porst說，“安全的專業(yè)知識不能被任何機(jī)器學(xué)習(xí)算法代替。”事實(shí)上，機(jī)器學(xué)習(xí)只是團(tuán)隊掃描渠道其中一部分，如果系統(tǒng)標(biāo)記某個應(yīng)用程序是有問題，人類工程師總是會再次檢查。問題是數(shù)據(jù)太少。 Porst說，技術(shù)對Play商店外的應(yīng)用程序更有效，主要是因?yàn)椋缃?，上傳到Play商店的幾乎沒有有害軟件。

這并不是說機(jī)器學(xué)習(xí)不會改善Porst和其團(tuán)隊的工作。安全初創(chuàng)Deep Instinct首席技術(shù)官Eli David說，他的公司通過分析數(shù)據(jù)而不僅僅是跨一個計算機(jī)平臺，比如說Android，而是所有的平臺，已建立有效的模型。他說，“你的范圍一定要大。”

真正的Clusterfuzz

在識別移動操作系統(tǒng)有大洞后，Jon Larimer在谷歌找到了一份工作。他發(fā)現(xiàn)了圖形設(shè)備驅(qū)動程序的瑕疵，呈現(xiàn)在Android手機(jī)的圖形代碼。他用這個漏洞通過互聯(lián)網(wǎng)獲得手機(jī)的完全控制。然后，他將它展示給Ludwig和其團(tuán)隊。

現(xiàn)在，Larimer和他的團(tuán)隊正在建立一個可以自主判斷類似漏洞的系統(tǒng)。

像Nick Kralevich這樣的Android安全工程師，構(gòu)建代碼的目的是消除操作系統(tǒng)可利用的漏洞。但這些漏洞接二連三地出現(xiàn)。因此，最初打造的處理谷歌Chrome網(wǎng)絡(luò)瀏覽器的安全技術(shù)，Larimer和其他人建立在模糊測試，通過各種隨機(jī)輸入尋求在軟件中的漏洞。模糊化是常有的事情，但是這個系統(tǒng)被稱為Clusterfuzz，同時在幾十臺Android手機(jī)進(jìn)行模糊測試。

在某些情況下，它在任何給定的時間橫跨數(shù)千臺服務(wù)器，分析約1500臺手機(jī)，測試這些手機(jī)的虛擬化身。它還測試物理設(shè)備，因?yàn)橛布娴目梢愿淖兪謾C(jī)的行為。在谷歌總部43號樓內(nèi)，你會發(fā)現(xiàn)大量的機(jī)架放著數(shù)百手機(jī)插入此掃描系統(tǒng)。 “我們團(tuán)隊沒有很多人，”他說， “但是，我們的優(yōu)勢在于規(guī)模，可以接觸成千上萬的CPU?！?/p>

現(xiàn)在，為了努力鑒定更多的漏洞，谷歌將機(jī)器學(xué)習(xí)應(yīng)用到該問題。Larimer和團(tuán)隊正在利用神經(jīng)網(wǎng)絡(luò)，使用Clusterfuzz鑒別每個文件的結(jié)構(gòu)。如果系統(tǒng)知道該結(jié)構(gòu)，它可以更徹底地測試該文件。在學(xué)習(xí)確定文件如何運(yùn)行上，Larimer解釋說，神經(jīng)網(wǎng)絡(luò)可以幫助模糊器“接觸盡可能多的代碼”。像Porst對機(jī)器學(xué)習(xí)所做的工作，該項目還年輕。但有前途。 “我們最終可以達(dá)到100％的覆蓋率?！盠arimer說。 “這就是未來。”

尋找中間地帶

這一切的工作表明，Android的安全性正在改變。除了對機(jī)器學(xué)習(xí)的舉動，該公司推出了一個大的賞金計劃，在前微軟人Scott Roberts的指導(dǎo)下，Ludwig作出更大的努力來解釋他的團(tuán)隊是如何解決安全性的問題。外部研究人員外像Joshua Drake早年曾經(jīng)質(zhì)疑谷歌對Android安全的認(rèn)真性。但即使Drake也會告訴你，他看到了改變的跡象，特別是因?yàn)樗ツ晗奶毂┞读薙tagefright漏洞。 “過去和現(xiàn)在是一個巨大的差異，”德雷克說。 “谷歌已經(jīng)意識到他們需要做更多的地步。”

谷歌不相信蘋果的模式。但Ludwig和他的Android團(tuán)隊知道，舊的方法并不一定成功。他們認(rèn)為理想的方法是介于兩者之間，其他人也同意。 “這兩個生態(tài)系統(tǒng)都有優(yōu)點(diǎn)和缺點(diǎn)，”Drake說。 “不是那么簡單就能解決問題?！比绻沁@樣的話，機(jī)器學(xué)習(xí)可以在手機(jī)安全的未來確實(shí)發(fā)揮重要的作用。

via wired

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。