0
雷鋒網(wǎng)AI 科技評(píng)論按：3 月 30 日 - 31日，AITech 峰會(huì)在深圳龍崗區(qū)成功舉辦。
本次會(huì)議以配合國(guó)家新一代人工智能發(fā)展規(guī)劃實(shí)施，支撐人工智能產(chǎn)業(yè)技術(shù)協(xié)同創(chuàng)新，加強(qiáng)人工智能領(lǐng)域的國(guó)內(nèi)外技術(shù)交流為目的，由深圳市人民政府指導(dǎo)，深圳市龍崗區(qū)人民政府、中關(guān)村視聽(tīng)產(chǎn)業(yè)技術(shù)創(chuàng)新聯(lián)盟、新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟主辦，深圳龍崗智能視聽(tīng)研究院承辦。雷鋒網(wǎng)作為獨(dú)家戰(zhàn)略合作媒體對(duì)整個(gè)會(huì)議議程進(jìn)行了全方位現(xiàn)場(chǎng)內(nèi)容的詳細(xì)報(bào)導(dǎo)。
為期兩天的會(huì)議包括兩場(chǎng)主論壇和四場(chǎng)分論壇，分別為：
主論壇一（3 月 30 日上午）
分論壇（一）：智能技術(shù)與標(biāo)準(zhǔn)及 IEEE Fellow 論壇（3 月 30 日下午）
分論壇（二）：超高清與 VR 技術(shù)論壇（3 月 30 日下午）
主論壇二（3 月 31 日上午）
分論壇（三）：人工智能與安全論壇（3 月 31 日下午）
分論壇（四）：人工智能投融資論壇（3 月 31 日下午）
本文內(nèi)容為雷鋒網(wǎng)對(duì)人工智能與安全論壇的詳細(xì)報(bào)道。其他內(nèi)容詳見(jiàn)：主論壇一、主論壇二、分論壇（一）、分論壇（二）、分論壇（四）。
在人工智能與安全論壇中，分別由深信服科技、慧安金科、360、百度安全實(shí)驗(yàn)室、北京頂象、阿里云等企業(yè)安全人員，以及北京師范大學(xué)、電子科技大學(xué)的安全專家以及國(guó)家工業(yè)信息安全發(fā)展研究中心的人員圍繞人工智能時(shí)代的技術(shù)安全、反欺詐、人工智能相關(guān)法律、智能駕駛安全等方面做了詳細(xì)解讀。下面為詳細(xì)內(nèi)容：
古亮，深信服科技副總裁兼首席技術(shù)專家
古亮首先談到了人工智能的機(jī)遇。他展示了人工智能的三次熱潮。前兩次多為學(xué)術(shù)研究主導(dǎo)，多是市場(chǎng)宣傳層面；而最后一次則以商業(yè)需求為主，多是商業(yè)模式層面。此外無(wú)論是美國(guó)、加拿大、英國(guó)、法國(guó)，還是中國(guó)，都制定了相應(yīng)的發(fā)展規(guī)劃，做出了政策上的支持和規(guī)范。這對(duì)智能安全來(lái)說(shuō)是難得的機(jī)遇，也是極大的挑戰(zhàn)。
古亮以深信服為例。他首先介紹了深信服科技的基本理念，發(fā)展、業(yè)務(wù)圖譜等，隨后他提出深信服在智能安全上的三個(gè)安全理念：
可視是安全的基礎(chǔ)：他認(rèn)為傳統(tǒng)業(yè)務(wù)的邊界已經(jīng)變得模糊。對(duì)這些業(yè)務(wù)的安全，如果無(wú)法看見(jiàn)就無(wú)法進(jìn)行有效保護(hù)。
安全技術(shù)專項(xiàng)持續(xù)監(jiān)測(cè)和快速響應(yīng)：任何安全防御都會(huì)被攻破，所以要提供一系列的監(jiān)測(cè)和支撐；另一方面任何攻擊都有較長(zhǎng)的潛伏期，而其爆發(fā)時(shí)間卻極短，建立快速響應(yīng)機(jī)制則能夠?qū)踩乃矔r(shí)降到最低，減少資產(chǎn)信息被竊取的風(fēng)險(xiǎn)。
安全的交付需要更加簡(jiǎn)單有效：現(xiàn)在安全產(chǎn)品的品類越來(lái)越多，架構(gòu)也越來(lái)越復(fù)雜，建設(shè)難度較大，但是大多數(shù)企業(yè)并沒(méi)有專業(yè)的安全團(tuán)隊(duì)，這導(dǎo)致大量的安全事件都是由于安全設(shè)備的錯(cuò)配漏配導(dǎo)致的，將安全建設(shè)變得更加簡(jiǎn)單有效則能大大降低用戶的安全風(fēng)險(xiǎn)。
古亮隨后針對(duì)智能安全的挑戰(zhàn)做出了詳細(xì)的分析。他總結(jié)智能安全的挑戰(zhàn)有以下幾點(diǎn)：
1. AI引擎框架的漏洞和缺陷可能會(huì)導(dǎo)致的安全隱患。例如TensorFlow、Caffe的漏洞，甚至于Python、Numpy的漏洞也可能會(huì)被攻擊者所利用。
2. 使用對(duì)抗樣本使人工智能時(shí)效。他提出“data is the new source code”，認(rèn)為在智能時(shí)代，數(shù)據(jù)和代碼一樣可以導(dǎo)致安全問(wèn)題。
3. 基于AI安全檢測(cè)引擎結(jié)果的舉證和魯棒性。他認(rèn)為AI安全檢測(cè)引擎的結(jié)果事實(shí)上有時(shí)候是不準(zhǔn)確的，其結(jié)果在樣本集上是有效的，但是如果擴(kuò)大的樣本集外怎么確保有效仍然值得研究。
4. 人工智能是把雙刃劍，它也有可能被使用來(lái)進(jìn)行安全攻擊。
基于以上的討論，他呼吁大家共同來(lái)完善智能時(shí)代的網(wǎng)絡(luò)安全環(huán)境，通過(guò)合作來(lái)與灰黑產(chǎn)的技術(shù)進(jìn)行對(duì)抗。
吳沈括，北師大刑科院暨法學(xué)院副教授，聯(lián)合國(guó)網(wǎng)絡(luò)安全與網(wǎng)絡(luò)犯罪問(wèn)題高級(jí)顧問(wèn)，最高人民法院咨詢監(jiān)督專家，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心秘書長(zhǎng)
作為一名法律專家，吳沈括副教授讓在座的聽(tīng)眾見(jiàn)識(shí)了法律人士對(duì)人工智能安全的嚴(yán)謹(jǐn)思考。
首先，他介紹了當(dāng)前人工智能法律治理的現(xiàn)狀。目前很多國(guó)家都已經(jīng)或者準(zhǔn)備開(kāi)始對(duì)人工智能進(jìn)行立法。這主要有兩種原因：1、搶占立法優(yōu)先權(quán)；2、人工智能確實(shí)產(chǎn)生了一系列的風(fēng)險(xiǎn)問(wèn)題。美國(guó)在人工智能立法方面，主要看到的是關(guān)于自動(dòng)駕駛方面的法律法規(guī)較多，也即關(guān)注人工智能對(duì)人身安全的風(fēng)險(xiǎn)；而在我國(guó)，則更強(qiáng)調(diào)技術(shù)本身的法律問(wèn)題。針對(duì)人工智能的技術(shù)，他列舉了人工智能面臨的安全風(fēng)險(xiǎn)種類。
隨后，按照法律的嚴(yán)謹(jǐn)風(fēng)格，他對(duì)人工智能的含義做出定義和判斷。他認(rèn)為人工智能可以有兩種定義：1）具有思考能力、行為類人、理性的計(jì)算機(jī)系統(tǒng)；2）一種自動(dòng)學(xué)習(xí)、獲取數(shù)據(jù)特征的計(jì)算機(jī)算法與系統(tǒng)。針對(duì)復(fù)雜多樣的人工智能應(yīng)用，他認(rèn)為我們應(yīng)當(dāng)針對(duì)每一個(gè)具體應(yīng)用領(lǐng)域和層面進(jìn)行界定和立法立規(guī)。例如算法與系統(tǒng)層面有圖像識(shí)別、用戶畫像、智能金融投顧等，硬件和基礎(chǔ)設(shè)施層面有機(jī)器人、自動(dòng)駕駛、無(wú)人機(jī)、物聯(lián)網(wǎng)。這些都需要針對(duì)性地專門考慮。他還提出人工智能的三大網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，包括系統(tǒng)安全風(fēng)險(xiǎn)、算法透明度與可解釋性以及數(shù)據(jù)利用與隱私保護(hù)。
吳沈括副教授還詳細(xì)地對(duì)人工智能系統(tǒng)安全問(wèn)題做出了詳細(xì)的介紹，提出“人工智能的系統(tǒng)安全新風(fēng)險(xiǎn)主要存在于人工智能硬件應(yīng)用的場(chǎng)景中”。
在網(wǎng)絡(luò)安全法律視野下，人工智能安全的治理路徑有兩點(diǎn)：1）人工智能硬件應(yīng)用與《網(wǎng)絡(luò)安全法》的適配與融合；2）業(yè)務(wù)鏈責(zé)任承擔(dān)問(wèn)題，也即引入多維責(zé)任分配方案。
他在結(jié)語(yǔ)中總結(jié)了人工智能法治有以下幾個(gè)要點(diǎn)和趨勢(shì)：
立法與技術(shù)發(fā)展相適應(yīng)，謹(jǐn)防抑制市場(chǎng)活力；
以具體應(yīng)用為基礎(chǔ)的人工智能法律治理將引導(dǎo)監(jiān)管走向碎片化和多元化；
在人工智能時(shí)代，軟性規(guī)范的適用將成為網(wǎng)絡(luò)安全法律治理的主流方式，而傳統(tǒng)的自上而下、以歸納思維為主的法律治理思路已逐漸無(wú)法勝任人工智能時(shí)代的監(jiān)管重任。
黃鈴，慧安金科創(chuàng)始人，清華大學(xué)交叉信息研究院兼職教授，英特爾研究院資深科學(xué)家
黃鈴在報(bào)告中介紹了他們用人工智能技術(shù)做金融風(fēng)控和反欺詐的經(jīng)驗(yàn)。
據(jù)黃鈴介紹，在過(guò)去的5到10年中，整個(gè)互聯(lián)網(wǎng)黑產(chǎn)和灰產(chǎn)發(fā)展非常繁榮，導(dǎo)致今天互聯(lián)網(wǎng)金融、銀行機(jī)構(gòu)等都面臨著有組織、有分工、且具有先進(jìn)技術(shù)（包括人工智能技術(shù)）的黑產(chǎn)攻擊。針對(duì)這些黑灰產(chǎn)公積，現(xiàn)在市場(chǎng)上已經(jīng)有一些解決方案，但是往往很難防止他們，因?yàn)槟壳暗倪@些解決方案主要是基于規(guī)則或有監(jiān)督的機(jī)制，這些方案需要建立在過(guò)去曾經(jīng)發(fā)生過(guò)的欺詐行為中，但是面對(duì)現(xiàn)在團(tuán)伙化、專業(yè)化的攻擊，傳統(tǒng)風(fēng)控和反欺詐的方法在覆蓋率和精準(zhǔn)度上都存在一些問(wèn)題，而且不能應(yīng)對(duì)新的欺詐行為。
黃鈴隨后提出他們慧安金科建立的基于半監(jiān)督主動(dòng)式AI系統(tǒng)的企業(yè)級(jí)通用人工智能引擎。該引擎能夠基于少量（甚至沒(méi)有）標(biāo)簽的情況下、結(jié)合客戶應(yīng)用場(chǎng)景去主動(dòng)進(jìn)行風(fēng)控和反欺詐檢測(cè)。
黃鈴首先向在座的聽(tīng)眾介紹了半監(jiān)督機(jī)器學(xué)習(xí)。這是一種用戶關(guān)聯(lián)聚類和分類相結(jié)合的方法，其建模實(shí)現(xiàn)為基于關(guān)系圖的拉普拉斯調(diào)和解。但是這種方法的會(huì)隨著用戶數(shù)量的增加曾指數(shù)增長(zhǎng)，這在千萬(wàn)級(jí)的用戶數(shù)量下顯然是不適用的。他們提出了一種關(guān)系圖近似求解的方法將關(guān)系大圖逼近為小圖，在小圖上做完拉普拉斯求解后，再映射回去，這保證了他們能夠在千萬(wàn)級(jí)（甚至億級(jí)）用戶上進(jìn)行運(yùn)算。
基于以上的這些技術(shù)，他們做出了反欺詐產(chǎn)品「網(wǎng)鈴」，該產(chǎn)品能夠使用人工智能來(lái)分析海量數(shù)據(jù)行為數(shù)據(jù)，在不侵犯?jìng)€(gè)人隱私，無(wú)預(yù)知欺詐的類型和特點(diǎn)前提下，仍然可以主動(dòng)地在千萬(wàn)級(jí)用戶中識(shí)別出不正常的行為和關(guān)聯(lián)。其覆蓋率能夠達(dá)到80%，而準(zhǔn)確率則高達(dá)99.6%。隨后黃鈴使用兩個(gè)在線電商的案例給在座的聽(tīng)眾介紹了其識(shí)別效果。
羅蕾，電子科技大學(xué)嵌入式軟件工程中心教授，車載信息服務(wù)產(chǎn)業(yè)應(yīng)用聯(lián)盟網(wǎng)絡(luò)安全委員會(huì)秘書長(zhǎng)
羅蕾教授在報(bào)告中講了四個(gè)內(nèi)容，分別為國(guó)內(nèi)外智能汽車網(wǎng)絡(luò)安全相關(guān)標(biāo)準(zhǔn)，國(guó)外智能汽車網(wǎng)絡(luò)安全相關(guān)技術(shù)，車聯(lián)網(wǎng)絡(luò)安全委員會(huì)的白皮書、指南細(xì)則以及網(wǎng)絡(luò)安全標(biāo)準(zhǔn)體系，最后她簡(jiǎn)要介紹了車載信息服務(wù)產(chǎn)業(yè)應(yīng)用聯(lián)盟和電子科大嵌入式軟件工程中心研究與產(chǎn)業(yè)化的基本情況。
羅蕾教授認(rèn)為現(xiàn)在汽車工業(yè)正處于變革的關(guān)鍵時(shí)期，就像十年前手機(jī)的發(fā)展一樣，正不斷地智能化和網(wǎng)聯(lián)化。與此同時(shí)也就出現(xiàn)了安全的問(wèn)題。在安全方面有兩種：safety和security。前者為安全可靠，指保護(hù)外部環(huán)境不受設(shè)備的傷害；而后者為安全保密，指保護(hù)設(shè)備不受外部環(huán)境的傷害。
隨后羅蕾教授分別介紹了美、日、英、歐盟、ISO、國(guó)際自動(dòng)機(jī)工程學(xué)會(huì)（SAE）、ITU-T（國(guó)際電聯(lián)）、聯(lián)合國(guó)、歐洲通信標(biāo)準(zhǔn)化協(xié)會(huì)以及中國(guó)的相關(guān)標(biāo)準(zhǔn)。我國(guó)在這方面提出了國(guó)家車聯(lián)網(wǎng)產(chǎn)業(yè)標(biāo)準(zhǔn)體系建設(shè)指南，該指南包括智能網(wǎng)聯(lián)汽車標(biāo)準(zhǔn)體系、信息通信標(biāo)準(zhǔn)體系、電子產(chǎn)品與服務(wù)標(biāo)準(zhǔn)體系、智能交通先關(guān)標(biāo)準(zhǔn)體系以及車輛智能管理標(biāo)準(zhǔn)體系。
在技術(shù)方面，羅蕾教授認(rèn)為，車載硬件正從獨(dú)立單元控制器演變?yōu)槎嘤蛳到y(tǒng)控制器，這滿足了不斷增長(zhǎng)功能的計(jì)算要求。針對(duì)智能汽車的技術(shù)，HIS聯(lián)盟提出了HIS規(guī)范SHE（Secure Hardware Extension），并提出三個(gè)安全等級(jí)。此外TCG、AUTOSAR、TEE也制定了一系列的技術(shù)規(guī)范。
羅蕾教授提醒說(shuō)，現(xiàn)在很多業(yè)界人士認(rèn)為2020年自動(dòng)駕駛將會(huì)量產(chǎn)，但是目前國(guó)內(nèi)相關(guān)的法律法規(guī)仍然比較薄弱，還需要大家共同將相關(guān)的安全與技術(shù)的標(biāo)準(zhǔn)和法律制定起來(lái)。
隨后羅蕾介紹了電子科技大學(xué)嵌入式軟件工程中心的工作情況。據(jù)羅蕾教授介紹，目前該中心承擔(dān)了汽車電子網(wǎng)絡(luò)安全標(biāo)準(zhǔn)的研究，并孵化了汽車電子網(wǎng)絡(luò)安全公司“廣東為辰信息科技有限公司”，為辰信安已推出網(wǎng)絡(luò)安全產(chǎn)品與服務(wù)，并已經(jīng)量產(chǎn)上車。
李康，360智能安全研究團(tuán)隊(duì)負(fù)責(zé)人
李康不僅是360智能安全研究團(tuán)隊(duì)的負(fù)責(zé)人，還是Disekt、SecDawgs CTF戰(zhàn)隊(duì)創(chuàng)始人、xCTF和藍(lán)蓮花戰(zhàn)隊(duì)的啟蒙導(dǎo)師，2016年DARPA Cyber Grand Challenge決賽獲獎(jiǎng)?wù)?。?jù)其介紹，DARPA舉辦的這場(chǎng)Cyber挑戰(zhàn)賽為全球首次及其網(wǎng)絡(luò)攻防比賽，整個(gè)比賽歷時(shí)三年，是一種全自動(dòng)、無(wú)人工干預(yù)的CTF對(duì)戰(zhàn)，最終他們的成果被陳列在美國(guó)歷史博物館中。
李康隨后列舉了之所以關(guān)心AI安全問(wèn)題的原因。1）人工智能造成了一系列的安全問(wèn)題，例如Uber事件；2）人工智能/深度學(xué)習(xí)在生活中“成功應(yīng)用”，例如通過(guò)人臉識(shí)別可以檢測(cè)學(xué)生的遲到早退，分析學(xué)生抬頭率等，而同樣的也可以用它來(lái)刷帖、刷評(píng)價(jià)或者破解圖片驗(yàn)證碼。
他提出了自己的一個(gè)思想，即：安全和核心是對(duì)抗。隨后他列舉了人工智能時(shí)代可能面臨的攻擊類型。
首先是對(duì)抗性機(jī)器學(xué)習(xí)。這也是目前學(xué)界主要關(guān)注的研究?jī)?nèi)容。但是李康認(rèn)為這雖然是一個(gè)大問(wèn)題，但在實(shí)際中并不是主要的攻擊方式。
其次是模型缺陷與后門。這主要表現(xiàn)在訓(xùn)練處的模型總是基于一定的訓(xùn)練數(shù)據(jù)之上，在遇到超出模型范圍的數(shù)據(jù)時(shí)，模型將無(wú)能為力并導(dǎo)致系統(tǒng)決策失誤。而另一方面，如果模型制作者在正常模型之外添加惡意模型后門，那么它完全可以騙過(guò)正常的檢測(cè)。
第三種是深度學(xué)習(xí)軟件中的安全問(wèn)題。目前的深度學(xué)習(xí)應(yīng)用事實(shí)上都是分層的，在應(yīng)用層包括程序邏輯、模型和數(shù)據(jù)；往下為框架層，例如TensorFlow、Caffe、Torch等；再往下則是框架依賴層，包括python等。這些層次中存在的漏洞都可能造成安全問(wèn)題。
另外一種是數(shù)據(jù)污染攻擊。他以深度學(xué)習(xí)的典型應(yīng)用——圖像識(shí)別為例。李康以圖像識(shí)別中最常見(jiàn)的手寫字識(shí)別為例，他通過(guò)對(duì)圖像進(jìn)行降維壓縮實(shí)現(xiàn)了機(jī)器誤判“7”為“1”，將羊誤判為狼。
高磊：百度安全實(shí)驗(yàn)室技術(shù)專家
報(bào)告伊始，高磊便給聽(tīng)眾舉了兩個(gè)假想的攻擊例子。首先是在語(yǔ)音識(shí)別時(shí)加入微擾的背景音，則能夠通過(guò)背景音來(lái)改變識(shí)別出的結(jié)果，這可以例如篡改某一個(gè)數(shù)字或關(guān)鍵信息等。第二個(gè)例子是攻擊者可以向人臉支付系統(tǒng)的審核人員提交一份加入微小擾動(dòng)的本人照片，于是他就每次刷臉支付就能夠由別人買單了。
以上兩個(gè)例子的核心都在于通過(guò)加入微小擾動(dòng)來(lái)生成對(duì)抗樣本。高磊接下來(lái)列舉了兩種對(duì)抗樣本攻擊的“套路”。由于對(duì)抗樣本可以在功能類似的模型之間進(jìn)行遷移，因此攻擊者就可以先用功能類似的白盒生成對(duì)抗樣本，再用對(duì)抗樣本去欺騙攻擊的黑盒，此為套路一。套路一的加強(qiáng)版則為通過(guò)多個(gè)白盒模型來(lái)生成性能較好的對(duì)抗樣本。另外一種套路則是給出一個(gè)輸入，通過(guò)用黑盒算法搜索，獲得對(duì)抗樣本，再將對(duì)抗樣本輸入到黑盒獲得分類結(jié)果。針對(duì)以上兩個(gè)套路，高磊分別詳細(xì)介紹了兩個(gè)案例：FaceNet白盒攻擊和人臉比對(duì)服務(wù)黑盒攻擊。
最后高磊介紹了百度的Paddle對(duì)抗樣本工具集，白盒對(duì)抗樣本生成算法包括FGSM、BIM、BIM+M、DeepFool、JSMA等?？梢栽趃ithub上了解更多詳細(xì)信息：http://github.com/PaddlePaddle/models/tree/develop/fluid/adversarial
黃亞軍，北京頂象技術(shù)有限公司算法專家
對(duì)于一個(gè)企業(yè)在其整個(gè)的業(yè)務(wù)流程中都會(huì)去收集用戶信息以構(gòu)建用戶畫像，從而進(jìn)行精準(zhǔn)營(yíng)銷和信用評(píng)估。黃亞軍在報(bào)告中針對(duì)這個(gè)問(wèn)題講了三點(diǎn)：1、如何提高數(shù)據(jù)采集的質(zhì)量；2、如何權(quán)衡即有高價(jià)值同時(shí)又有高風(fēng)險(xiǎn)的用戶畫像；3、建立深度用戶畫像及其意義。
首先黃亞軍提到，在企業(yè)通過(guò)客戶端采集用戶數(shù)據(jù)，但是在這個(gè)過(guò)程中，由于用戶和企業(yè)系統(tǒng)之間隔著整個(gè)互聯(lián)網(wǎng)，這就給企業(yè)的用戶畫像帶來(lái)不可控。舉例來(lái)說(shuō)，一個(gè)黑灰產(chǎn)知道了一個(gè)企業(yè)APP的執(zhí)行邏輯，他就可以根據(jù)這個(gè)邏輯去構(gòu)造數(shù)據(jù)，去刷接口；或者進(jìn)行大量垃圾注冊(cè)等。這種風(fēng)險(xiǎn)會(huì)給企業(yè)帶來(lái)價(jià)值損失，更重要的是會(huì)污染用戶數(shù)據(jù)，導(dǎo)致用戶畫像失真。黃亞軍提到他們針對(duì)此問(wèn)題構(gòu)建的一整套風(fēng)控體系，從客戶端到注冊(cè)登錄、到營(yíng)銷活動(dòng)，到交易交付，到商品評(píng)價(jià)等。這種風(fēng)控體系能夠極大地提高畫像數(shù)據(jù)的質(zhì)量。
黃亞軍隨后介紹了如何綜合評(píng)價(jià)用戶的價(jià)值與風(fēng)險(xiǎn)問(wèn)題。對(duì)于一個(gè)企業(yè)來(lái)說(shuō)，無(wú)論是做風(fēng)險(xiǎn)決策還是價(jià)值評(píng)估，所依據(jù)的也即用戶畫像技術(shù)。在用戶畫像中如何降低誤報(bào)同時(shí)提高價(jià)值轉(zhuǎn)化則是非常重要的問(wèn)題。在這種考慮就需要將用戶畫像放到價(jià)值和風(fēng)險(xiǎn)的組成的二維平面中進(jìn)行綜合評(píng)價(jià)，對(duì)于那些高風(fēng)險(xiǎn)同時(shí)也是高價(jià)值的用戶不能直接丟掉，更不能完全拿來(lái)，這需要構(gòu)建深度用戶畫像，以實(shí)現(xiàn)所謂的低誤報(bào)和高轉(zhuǎn)化。
所謂深度用戶畫像，即對(duì)用戶數(shù)據(jù)（行為序列、關(guān)系網(wǎng)絡(luò)等）更抽象的表征學(xué)習(xí)（多維連續(xù)空間），該表征盡可能保留數(shù)據(jù)自身的信息，使其更適用于復(fù)雜數(shù)據(jù)挖掘場(chǎng)景。
黃亞軍分析了傳統(tǒng)標(biāo)簽式用戶畫像與深度用戶畫像的優(yōu)劣。對(duì)于傳統(tǒng)的標(biāo)簽式用戶畫像，其標(biāo)簽主要是基于業(yè)務(wù)而制定，因此可解釋性較強(qiáng)，且易于應(yīng)用到業(yè)務(wù)策略和統(tǒng)計(jì)中；但是這種用戶畫像只是對(duì)數(shù)據(jù)單一維度的抽象，如果想要在不同業(yè)務(wù)之間進(jìn)行泛化就會(huì)很困難。而深度用戶畫像則能夠?qū)W習(xí)數(shù)據(jù)本身的特征，很容易應(yīng)用到復(fù)雜的算法任務(wù)當(dāng)中，對(duì)于不同的業(yè)務(wù)其泛化能力也很強(qiáng)。當(dāng)然由于它應(yīng)用到很多深度學(xué)習(xí)的技術(shù)，所以也帶有深度學(xué)習(xí)的劣勢(shì)，即可解釋性較差。
何煒，阿里云算法安全工程師
如果前面的報(bào)告是從客戶側(cè)的角度考慮安全問(wèn)題，那么何煒的這個(gè)報(bào)告則是從主機(jī)側(cè)進(jìn)行的考慮。何煒首先介紹了阿里云上面臨的異常進(jìn)程的現(xiàn)狀，其次講解了傳統(tǒng)的單一&多維檢測(cè)方案以及深度學(xué)習(xí)方案，并對(duì)檢測(cè)方法的演進(jìn)做了總結(jié)。
對(duì)于云上主機(jī)側(cè)的安全入侵主要有兩個(gè)方向，一個(gè)入侵來(lái)源為租戶主機(jī)，另一個(gè)為入侵云基礎(chǔ)設(shè)施。對(duì)于后者的防護(hù)，其實(shí)類似于一個(gè)大企業(yè)對(duì)其業(yè)務(wù)的防護(hù)，其數(shù)據(jù)較為單一，例如服務(wù)器配置類似、運(yùn)行腳本、維護(hù)團(tuán)隊(duì)都基本一致。所以采用基線兜底、語(yǔ)言模型、領(lǐng)域知識(shí)即可很好地解決。
但對(duì)于前者的防護(hù)則較為復(fù)雜，因?yàn)樵谠浦泻芏嗖煌瑯I(yè)務(wù)的中小企業(yè)，無(wú)論是運(yùn)維、進(jìn)程還是調(diào)度等都非常紊亂，沒(méi)有一個(gè)統(tǒng)一的標(biāo)準(zhǔn)，因此也就不存在一個(gè)統(tǒng)一的自動(dòng)化的安全防護(hù)模型。
針對(duì)此問(wèn)題，何煒介紹了兩種方法，迭代學(xué)習(xí)和深度學(xué)習(xí)。何煒在此提到的迭代學(xué)習(xí)有點(diǎn)兒類似前面講者的半監(jiān)督學(xué)習(xí)，也即先使用少量人工標(biāo)注的樣本進(jìn)行訓(xùn)練學(xué)習(xí)，模型會(huì)學(xué)到一些新的變種行為，隨后人為地將學(xué)習(xí)到的新行為特征再放到學(xué)習(xí)樣本中進(jìn)行迭代學(xué)習(xí)。但是迭代模型很難學(xué)習(xí)到一些距離較遠(yuǎn)的行為，因此當(dāng)?shù)揭欢ǔ潭龋阅芫筒粫?huì)再有提升。
深度學(xué)習(xí)在封閉集中能夠有很好的表現(xiàn)。所以阿里云也嘗試使用RNN構(gòu)建命令序列檢測(cè)模型。這種模型能夠?qū)?gram拓展到更長(zhǎng)的序列檢測(cè)中，其感知范圍更廣。他們通過(guò)實(shí)驗(yàn)發(fā)現(xiàn)，基于RNN的模型其Loss有了較大的下降。不過(guò)何煒表示將這種方法推廣開(kāi)還需要有很多工作去做。
總結(jié)來(lái)說(shuō)，阿里云在過(guò)去一年半的時(shí)間里，將整體降報(bào)率提升了89%，特征表達(dá)提升了8%，一句話進(jìn)程提升了10%，規(guī)則外變種發(fā)現(xiàn)了12個(gè)。何煒提出，從感知能力上來(lái)看，智能模型由統(tǒng)計(jì)模型演化到迭代學(xué)習(xí)模型，隨后會(huì)演化到深度學(xué)習(xí)模型。
張超，國(guó)家工業(yè)信息安全發(fā)展研究中心
張超的報(bào)告分為三個(gè)內(nèi)容，首先他簡(jiǎn)單梳理了我國(guó)智能語(yǔ)音產(chǎn)業(yè)的發(fā)展歷史，隨后基于對(duì)智能音箱的組成和使用的分解詳細(xì)探討了智能音箱的安全問(wèn)題，最后介紹了國(guó)家工業(yè)信息安全發(fā)展研究中心的工作。
據(jù)張超介紹，我國(guó)的智能語(yǔ)音產(chǎn)業(yè)發(fā)展大致經(jīng)歷了四個(gè)階段：50-70年代的技術(shù)萌芽階段，主要以中科院聲學(xué)所的工作為代表；80-90年代的技術(shù)突破階段，此時(shí)我國(guó)智能語(yǔ)音核心技術(shù)接近國(guó)際先進(jìn)水平，但產(chǎn)品化程度尚需進(jìn)一步提高；90-10年代的產(chǎn)業(yè)化階段，智能語(yǔ)音企業(yè)相繼成立，智能語(yǔ)音技術(shù)逐步在各行業(yè)應(yīng)用；10年以后的快速應(yīng)用階段，以語(yǔ)音合成、語(yǔ)音識(shí)別等為代表的只能語(yǔ)音核心技術(shù)不斷突破，產(chǎn)品和應(yīng)用的可能性不斷提升。
隨后張超根據(jù)對(duì)智能音箱的分析，列出如下智能音箱組成和適用環(huán)節(jié)的完整過(guò)程，并以此為基礎(chǔ)展開(kāi)對(duì)智能音箱的安全問(wèn)題討論。
他認(rèn)為智能音箱的安全存在四個(gè)方面：
軟件方面：例如算法自身的漏洞或錯(cuò)誤執(zhí)行指令等；
硬件方面：例如聲波攻擊（超聲波等）、硬件自身漏洞等；
網(wǎng)絡(luò)方面：例如網(wǎng)絡(luò)入侵、木馬植入、傳輸風(fēng)險(xiǎn)等；
數(shù)據(jù)方面：例如個(gè)人隱私泄露、聲紋信息泄露、數(shù)據(jù)密集導(dǎo)致的風(fēng)險(xiǎn)等。
進(jìn)一步，他認(rèn)為與傳統(tǒng)網(wǎng)絡(luò)安全更多是針對(duì)PC設(shè)備和服務(wù)器的系統(tǒng)漏洞和木馬病毒相比，目前的網(wǎng)絡(luò)安全將針對(duì)手機(jī)、音箱、電視、冰箱、空調(diào)、汽車等一切IoT設(shè)備。隨著IoT設(shè)備的增多，在技術(shù)、機(jī)制等方面做好安全應(yīng)對(duì)措施非常緊迫。
國(guó)家工業(yè)信息安全發(fā)展研究中心人工智能測(cè)評(píng)實(shí)驗(yàn)室目前正在建設(shè)標(biāo)準(zhǔn)化的測(cè)試流程和規(guī)范、構(gòu)建豐富的測(cè)試數(shù)據(jù)集、建設(shè)多樣化的標(biāo)準(zhǔn)測(cè)試環(huán)境，建設(shè)開(kāi)放共享的資源平臺(tái)。
以上為AITech 峰會(huì)人工智能與安全分論壇內(nèi)容的詳細(xì)報(bào)道。
相關(guān)文章：
AITech 深圳召開(kāi)，企業(yè)領(lǐng)軍人齊聚首，五位 IEEE Fellow 現(xiàn)場(chǎng)帶來(lái)主題演講
AITech 次日，腦科學(xué)、智能外科、多模態(tài)智能等多個(gè)話題引熱議
七場(chǎng)高端報(bào)告，帶你大視角看人工智能發(fā)展 | AITech
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
