0
雷鋒網(wǎng) AI 科技評(píng)論按：大家可能還記得，數(shù)據(jù)挖掘頂會(huì) KDD 2017的最佳應(yīng)用論文獎(jiǎng)由華人學(xué)者葉艷芳博士帶領(lǐng)的團(tuán)隊(duì)摘得，老師本人也在會(huì)議中做了現(xiàn)場(chǎng)演講介紹了研究?jī)?nèi)容，效果非常出色（現(xiàn)場(chǎng)演講內(nèi)容請(qǐng)見(jiàn) KDD2017最佳應(yīng)用論文演講全文：如何用行為表征揪出惡意軟件？ ）。
雷鋒網(wǎng) AI 科技評(píng)論了解到，葉艷芳博士一直以來(lái)的主要研究領(lǐng)域有互聯(lián)網(wǎng)安全、機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘，而且她先在業(yè)界公司工作了6年，然后離開(kāi)業(yè)界來(lái)到學(xué)校開(kāi)展安全研究。作為安全領(lǐng)域的專家，葉艷芳博士如何看待人工智能、機(jī)器學(xué)習(xí)對(duì)安全領(lǐng)域的影響，以及她為何要“逆潮流而行”，在許多學(xué)校教授紛紛下海的時(shí)候來(lái)到學(xué)校呢？我們帶著以上疑問(wèn)對(duì)她進(jìn)行了一場(chǎng)專訪。
葉艷芳，博士，現(xiàn)為美國(guó)西弗吉尼亞大學(xué)（West Virginia University）計(jì)算機(jī)科學(xué)與電子工程系助理教授，博士生導(dǎo)師。其研究興趣主要包括網(wǎng)絡(luò)安全，數(shù)據(jù)挖掘，機(jī)器學(xué)習(xí)及生物信息等領(lǐng)域。葉教授曾任Comodo Security Solutions Inc. 首席科學(xué)家，金山互聯(lián)網(wǎng)安全技術(shù)副總監(jiān)。其在大數(shù)據(jù)挖掘及機(jī)器學(xué)習(xí)在網(wǎng)絡(luò)安全，尤其是惡意軟件檢測(cè)方面，做出了開(kāi)創(chuàng)性和前瞻性的研究；其提出的算法及技術(shù)具有相當(dāng)?shù)挠绊懥?，并已成功?yīng)用于多個(gè)商業(yè)反病毒軟件中。葉教授在網(wǎng)絡(luò)安全及機(jī)器學(xué)習(xí)方面的研究于2016年獲美國(guó)自然科學(xué)基金委NSF SaTC Award （2016-2019），其近期獲得了美國(guó)西弗吉尼亞大學(xué)工程學(xué)院杰出青年教授獎(jiǎng) （2016-2017）、ACM SIGKDD 2017最佳論文及最佳學(xué)生論文獎(jiǎng)、IEEE EISIC 2017最佳論文獎(jiǎng)。（個(gè)人網(wǎng)頁(yè)：http://community.wvu.edu/~yaye/ ）
以下為采訪內(nèi)容。
雷鋒網(wǎng) AI 科技評(píng)論：再次恭喜您獲得最佳論文獎(jiǎng)！您覺(jué)得這篇論文得到最佳應(yīng)用論文的主要競(jìng)爭(zhēng)力是哪些？
葉艷芳：我們的這篇文章（「HinDroid: An Intelligent Android Malware Detection System Based on Structured Heterogeneous Information Network」）是第一次提出把HIN，也就是異構(gòu)信息網(wǎng)絡(luò)，用在手機(jī)的病毒檢測(cè)當(dāng)中。惡意軟件檢測(cè)如果想要用機(jī)器學(xué)習(xí)的算法，傳統(tǒng)的做法主要是基于淺層學(xué)習(xí)。這首先就要做feature engineering，要先提特征，提完特征再用各種學(xué)習(xí)算法進(jìn)行模型的構(gòu)建。
而基于HIN的檢測(cè)框架有一個(gè)好處就是，可以用很多不同的關(guān)系描述兩個(gè)文件的相似性。比如說(shuō)，如果兩個(gè)文件盡管從反編譯出來(lái)的二進(jìn)制上看不盡相同，但如果它們都去連接網(wǎng)絡(luò)、都獲取了手機(jī)里聯(lián)系人的信息，代碼風(fēng)格相近 （例如來(lái)源于同一個(gè)惡意軟件作者），或者是用同一種自動(dòng)的生成工具打包等等，這些復(fù)雜的關(guān)系都可以通過(guò)HIN來(lái)刻畫，從而用于惡意軟件檢測(cè)。對(duì)比于傳統(tǒng)的特征表達(dá)，基于HIN的檢測(cè)框架就非常靈活，它不僅可以描述特征本身，而且對(duì)特征之間各種復(fù)雜關(guān)系的描述提供了一個(gè)有效的表達(dá)方法；這種框架具有較強(qiáng)的可擴(kuò)充性，不僅對(duì)于feature engineering，還有每種不同相似度的權(quán)重衡量都有非常大的擴(kuò)展性。
雷鋒網(wǎng) AI 科技評(píng)論：論文中介紹的方法是識(shí)別安卓系統(tǒng)中的惡意軟件。它也能用于識(shí)別PC上的病毒嗎？
葉艷芳：不僅限于安卓，它也能夠適用于PC的惡意軟件檢測(cè)。甚至可以在更多的領(lǐng)域。我們現(xiàn)在也有嘗試將基于HIN的這個(gè)檢測(cè)框架用于醫(yī)療或者生物信息方面，比如我們最近有個(gè)項(xiàng)目，在社交網(wǎng)絡(luò)當(dāng)中識(shí)別這個(gè)用戶是不是你關(guān)心的目標(biāo)用戶，是不是毒品上癮者之類的。在比較好的定義了研究的問(wèn)題之后，這個(gè)框架不僅可以用于互聯(lián)網(wǎng)安全領(lǐng)域，也可以用于其他很多種方面。
雷鋒網(wǎng) AI 科技評(píng)論：運(yùn)行安卓系統(tǒng)的設(shè)備存在比較嚴(yán)重的版本分裂問(wèn)題，這給您的研究帶來(lái)了額外的困難嗎？如果是的話，您是如何應(yīng)對(duì)的？
葉艷芳：安卓系統(tǒng)的設(shè)備存在比較嚴(yán)重的版本分裂的問(wèn)題，這對(duì)提出來(lái)的整個(gè)框架不是一個(gè)問(wèn)題，反而是這樣的一個(gè)框架有優(yōu)勢(shì)去解決這樣的問(wèn)題。
為什么呢？比如說(shuō)不同系統(tǒng)當(dāng)中有不同的API，可以通過(guò)調(diào)用的API或者API之間的關(guān)系，看它是不是屬于同一個(gè)版本，看是否存在版本不同的問(wèn)題。那么就可以把這個(gè)關(guān)系和特征表述出來(lái)，然后自動(dòng)地集成到這整個(gè)框架當(dāng)中。這不僅不是challenge，我覺(jué)得反而是我們提出來(lái)的這個(gè)系統(tǒng)的一個(gè)優(yōu)勢(shì)。
雷鋒網(wǎng) AI 科技評(píng)論：HinDriod是用已經(jīng)收集到的惡意軟件進(jìn)行訓(xùn)練，然后根據(jù)學(xué)習(xí)到的特征和關(guān)系判斷目標(biāo)軟件的。HinDriod從軟件行為的層面進(jìn)行分析，可以防止改變代碼寫法、躲避檢測(cè)，那么新生的軟件是否能夠通過(guò)新的種類的惡意行為躲避檢測(cè)呢？
葉艷芳：首先不管什么樣子的機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘算法、或者AI技術(shù)，要取得好的應(yīng)用效果都需要基于大量的有標(biāo)簽的樣本進(jìn)行學(xué)習(xí)。即使是AlphaGo Zero在沒(méi)有human knowledge的情況下取得了突破性的成功，這也是在這樣一個(gè)強(qiáng)條件下：（1）下圍棋的規(guī)則是明確的；（2）在self-learning的過(guò)程中自動(dòng)產(chǎn)生了海量的帶標(biāo)簽的數(shù)據(jù)。所以，對(duì)于通常的某一種變種，或者是某一種組合的變形的話，用這樣的框架只要訓(xùn)練集當(dāng)中有原始的近似樣本話，那就有一定的就是防御能力能夠抵御這個(gè)變種或惡意軟件。
對(duì)于全新的，比如從動(dòng)物進(jìn)化到人這樣生物特征都變了，比如一個(gè)蠕蟲病毒進(jìn)化到現(xiàn)在流行的勒索軟件，這樣完全不一樣的東西，甚至對(duì)人來(lái)說(shuō)都是全新的話，那我們可能需要更加先進(jìn)的辦法才能把它檢測(cè)出來(lái)。如果是一個(gè)全新的事物，對(duì)它的認(rèn)識(shí)是有一個(gè)過(guò)程的。
雷鋒網(wǎng) AI 科技評(píng)論：能不能透露一下HinDriod的訓(xùn)練速度和推理速度如何？HinDriod現(xiàn)在還有哪些函待解決的問(wèn)題？
葉艷芳：HinDriod主要是基于HIN，然后用multi-kernel的架構(gòu)來(lái)集成不同的similarity measures來(lái)構(gòu)建識(shí)別能力更強(qiáng)的分類器。HIN本身對(duì)于高維的海量數(shù)據(jù)存在一些拓展性的問(wèn)題，現(xiàn)在也已經(jīng)有很多的工作在嘗試解決這個(gè)問(wèn)題，比如說(shuō)用矩陣分解或者graph embedding的方法。
雷鋒網(wǎng) AI 科技評(píng)論：在安全領(lǐng)域，總的來(lái)說(shuō)還有哪些重大的問(wèn)題？深度學(xué)習(xí)近年來(lái)在數(shù)據(jù)挖掘的作用越來(lái)越突出，那么它能同樣在安全領(lǐng)域中發(fā)揮巨大作用嗎？
葉艷芳：這是一個(gè)很棒的問(wèn)題。不管其他領(lǐng)域（比如AI）有多火、能火多久，目前來(lái)看，安全或者說(shuō)對(duì)抗性的問(wèn)題和研究會(huì)一直存在和被需要；就像警察跟小偷的博弈一樣，我覺(jué)得這個(gè)問(wèn)題很有趣。這也是我為什么在這個(gè)領(lǐng)域做了這么多年，而且越做越有興趣、一直能夠保持很高的熱情的原因。安全的對(duì)抗問(wèn)題是是一個(gè)evolving的問(wèn)題，我在這個(gè)領(lǐng)域里做了十多年，覺(jué)得非常有意思；在這么一個(gè)對(duì)抗的過(guò)程重，道高一尺魔高一丈，總有很好玩、很新、很challenging的問(wèn)題。
我和我的團(tuán)隊(duì)最近也在致力于一個(gè)項(xiàng)目：目前不論是網(wǎng)絡(luò)的攻或防，即使是從特征碼查殺時(shí)代升級(jí)到了云時(shí)代應(yīng)用各種機(jī)器學(xué)習(xí)的模型進(jìn)行檢測(cè)及相對(duì)于的adversarial machine learning， 這些攻擊和對(duì)抗還都主要是人跟人之間對(duì)抗；隨著AI、深度學(xué)習(xí)的發(fā)展，尤其是AlphaGo Zero帶來(lái)的breakthrough，我認(rèn)為未來(lái)的惡意軟件攻防亦或是網(wǎng)絡(luò)安全攻防應(yīng)該是機(jī)器跟機(jī)器之間對(duì)抗（AI-vs-AI competence）。這是非常有意思，也有挑戰(zhàn)的一件事。以前在電影或者是電視當(dāng)中看的黑客帝國(guó)，或者“超級(jí)黑客”好像離現(xiàn)實(shí)蠻遠(yuǎn)的，但我覺(jué)得在不久的將來(lái)是一個(gè)現(xiàn)實(shí)。我們最近正在致力于這方面的前瞻性研究，爭(zhēng)取實(shí)現(xiàn)安全領(lǐng)域的“AlphaGo Zero”！
關(guān)于學(xué)術(shù)生活
雷鋒網(wǎng) AI 科技評(píng)論：您加入西弗吉尼亞大學(xué)（WVU）之前在業(yè)界工作了大約六七年，那您從業(yè)界來(lái)到大學(xué)的原因是什么？您覺(jué)得您在業(yè)界和大學(xué)做的事情有多大的區(qū)別？
葉艷芳：我是在國(guó)內(nèi)拿的博士學(xué)位，在我做博士期間就已經(jīng)入職金山互聯(lián)網(wǎng)安全公司擔(dān)任技術(shù)副總監(jiān)。我博士畢業(yè)以后，到了總部在美國(guó)新澤西的Comodo 安全公司擔(dān)任首席科學(xué)家，負(fù)責(zé)他們北京的公司和美國(guó)的一些研發(fā)。
關(guān)于我為什么從工業(yè)界到到學(xué)術(shù)界：從個(gè)人方面講是我想嘗試一下不同的lifestyle；從研究上面來(lái)講，工業(yè)界的節(jié)奏特別快，更多受產(chǎn)品發(fā)布驅(qū)動(dòng)，所以一定時(shí)間或程度上可能就沒(méi)有l(wèi)uxury對(duì)某個(gè)自己特別感興趣的領(lǐng)域做更深入、更基礎(chǔ)性、或者更前瞻性的研究。如果你要負(fù)責(zé)幾個(gè)產(chǎn)品、有幾項(xiàng)業(yè)務(wù)的話，也許你的時(shí)間和商業(yè)競(jìng)爭(zhēng)的形勢(shì)都不太允許自己“沉淀下來(lái)做一些前瞻性的研究”。比如說(shuō)明天要發(fā)一個(gè)版本，那這個(gè)版本相關(guān)的許多事情都要處理、有很多東西要去打磨、要花很多時(shí)間管理和溝通。如果你自己想要做一些整個(gè)領(lǐng)域的前瞻性和發(fā)展性的研究的話，需要有一個(gè)比較完整、比較長(zhǎng)的時(shí)間。工業(yè)界跟學(xué)術(shù)界的側(cè)重畢竟會(huì)稍微不一樣。不過(guò)現(xiàn)在工業(yè)界也有不少這樣的機(jī)會(huì)，比如最近阿里提出來(lái)的達(dá)摩院。
雷鋒網(wǎng) AI 科技評(píng)論：您在中國(guó)的金山和美國(guó)的Comodo都工作過(guò)，您覺(jué)得兩國(guó)的企業(yè)對(duì)安全研究的思路和方法區(qū)別大嗎？
葉艷芳：中美的安全形勢(shì)和背景不太一樣。打個(gè)比方吧，在中國(guó)盜版比較多，容忍度也比較高；但在美國(guó)這邊的話，做盜版的代價(jià)非常大。
根據(jù)我在工業(yè)界工作的那幾年來(lái)說(shuō)：當(dāng)時(shí)中國(guó)2C端的安全強(qiáng)調(diào)的更多；美國(guó)的話，尤其是我工作的這個(gè)公司，它更多的是針對(duì)2B端的業(yè)務(wù)。那么做2C的安全和2B的安全，側(cè)重點(diǎn)和總體思路差別還是很大的，在研究方法和側(cè)重上面也會(huì)有比較大的不同。比如說(shuō)2C端特別強(qiáng)調(diào)小步快跑，允許試錯(cuò)，從用戶的反饋當(dāng)中改進(jìn)產(chǎn)品方案和研究方向；那2B的話，放出去給企業(yè)用的東西就要強(qiáng)調(diào)版本的穩(wěn)定性和健壯性，最終提出來(lái)的安全解決方案會(huì)有比較大的不一樣。
雷鋒網(wǎng) AI 科技評(píng)論：在機(jī)器學(xué)習(xí)/深度學(xué)習(xí)的熱潮中，您對(duì)自己、對(duì)所帶的學(xué)生和廣大的中國(guó)學(xué)生有何期待？
葉艷芳：我覺(jué)得作為導(dǎo)師、作為教授的話，我們的責(zé)任之一就是必須要能夠站得比較高、站在整個(gè)領(lǐng)域和行業(yè)的高度上面，要有很好的vision，能夠看到未來(lái)幾年研究的方向在哪里，哪些是前瞻性的課題，哪些是有比較大影響力的工作，如何做才能夠?qū)φ麄€(gè)行業(yè)有比較大的推動(dòng)和改變。比如說(shuō)我現(xiàn)在探索的一些課題就是自己覺(jué)得未來(lái)應(yīng)該有比較大的開(kāi)創(chuàng)性和前瞻性的研究。
我對(duì)我學(xué)生的期待就是，他/她能夠在自己的研究方向上有“代表作”，能產(chǎn)生較大的影響力。舉個(gè)例子來(lái)講，我的兩位開(kāi)門弟子：一位叫候?qū)嵎?，做惡意軟件智能檢測(cè)，就是Hindriod的第一作者，獲得了今年KDD的最佳論文及最佳學(xué)生論文獎(jiǎng)；另一位叫陳玲威，致力于對(duì)抗機(jī)器學(xué)習(xí)的研究，在這方面的工作也獲得了認(rèn)可并獲得了IEEE EISIC 2017最佳論文獎(jiǎng)。我對(duì)我學(xué)生的另一個(gè)要求，同時(shí)也是我對(duì)國(guó)內(nèi)學(xué)生的一個(gè)期待，就是不要隨大流，一定要堅(jiān)持。不要每個(gè)東西都去試、都去做，要去堅(jiān)持在一個(gè)領(lǐng)域里面扎根、發(fā)展。
雷鋒網(wǎng) AI 科技評(píng)論：您如何看待人工智能/機(jī)器學(xué)習(xí)的未來(lái)？發(fā)展速度/社會(huì)價(jià)值/能否完全替代原有技術(shù)/對(duì)人類就業(yè)的影響等層面上？
葉艷芳：隨著互聯(lián)網(wǎng)或物聯(lián)網(wǎng)的發(fā)展，獲取數(shù)據(jù)的便利性大大增加了；越來(lái)越多的領(lǐng)域（包括軍用、民用、商用等等）都應(yīng)用到了機(jī)器學(xué)習(xí)/數(shù)據(jù)挖掘方法或AI技術(shù)。對(duì)于AI或機(jī)器學(xué)習(xí)，我個(gè)人的觀點(diǎn)是，我沒(méi)有覺(jué)得這是一個(gè)威脅論或者是怎么樣，因?yàn)榭赡苓@個(gè)技術(shù)的發(fā)展和推動(dòng)反而會(huì)提升人的水平。比如，原來(lái)簡(jiǎn)單的重復(fù)性的工作可以被機(jī)器替代，那么這就迫使人類更進(jìn)一步提升自己的水平，學(xué)習(xí)怎么來(lái)操縱這些東西，甚至在更高一個(gè)層面考慮怎么來(lái)更好的設(shè)計(jì)這些東西。社會(huì)在發(fā)展，科技在進(jìn)步，人類到一定階段也會(huì)有相應(yīng)的進(jìn)化。
（完）
葉艷芳博士的回答中不僅展現(xiàn)了她對(duì)安全領(lǐng)域的熱忱和期待，也體現(xiàn)了她“要有前瞻性，也要有切實(shí)的研究成果”的學(xué)術(shù)風(fēng)采。雷鋒網(wǎng) AI 科技評(píng)論后續(xù)會(huì)繼續(xù)向大家介紹葉艷芳博士在安全領(lǐng)域的對(duì)抗機(jī)器學(xué)習(xí)方面的研究成果，同時(shí)也祝葉艷芳老師和她的學(xué)生們?cè)谖磥?lái)的研究中繼續(xù)帶來(lái)大的突破！
相關(guān)文章：
KDD2017最佳應(yīng)用論文演講全文：如何用行為表征揪出惡意軟件？
華人力量無(wú)處不在，微軟在發(fā)展中尋求突破 | KDD 2017
KDD 2017獎(jiǎng)項(xiàng)全公布，華人成最大贏家
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
