“隱私計算涉及到多種技術，包括安全多方計算，聯(lián)邦學習，差分隱私，可信執(zhí)行環(huán)境等，每個技術既在各自領域獨立發(fā)展，也呈現(xiàn)出融合統(tǒng)一的趨勢。為此，同盾科技提出“知識聯(lián)邦”的框架體系，支持安全多方檢索、安全多方計算、安全多方學習（聯(lián)邦學習）、安全多方推理等技術方案，將是未來通向AI3.0的必由之路”，同盾科技合伙人、副總裁兼人工智能研究院院長、美國佛羅里達大學終身教授李曉林表示。

在今年《麻省理工科技評論》發(fā)布的“全球十大突破性技術”榜單中，入選的“差分隱私”技術引起了各界高度關注。美國政府希望運用這一技術在2020年人口普查中更好地保護公民隱私。毫無疑問，數(shù)字文明中的隱私數(shù)據(jù)保護已經(jīng)成為網(wǎng)絡空間生態(tài)安全的核心問題。

當下，數(shù)據(jù)已經(jīng)成為每個國家的基礎性戰(zhàn)略資源和生產(chǎn)要素，被稱為21世紀的“鉆石礦”。我國也正在抓緊制定《數(shù)據(jù)安全法》，從法律層面保障數(shù)據(jù)安全，促進數(shù)據(jù)開發(fā)利用。

而在學界，如何通過引入全新的數(shù)據(jù)保護模式來控制數(shù)據(jù)的搜集、查詢及使用，使得數(shù)據(jù)安全性、隱私性在得到保證的前提下，最大限度地支持基于數(shù)據(jù)驅動的科學研究及商業(yè)活動，更是科學家們努力突破的方向。

為此，本文邀請同盾科技合伙人、副總裁兼人工智能研究院院長、美國佛羅里達大學終身教授李曉林就“隱私數(shù)據(jù)保護、隱私計算”等前沿科學領域及其場景化應用分享觀點。人工智能國際知名學者李曉林教授所帶領的研究團隊是國際上最早將云計算、大數(shù)據(jù)、大規(guī)模深度學習、物聯(lián)網(wǎng)研究貫穿于一體的研究團隊之一，形成了從傳感物聯(lián)/互聯(lián)網(wǎng)+、到大數(shù)據(jù)深度學習、到大規(guī)模的智能云計算平臺的閉環(huán)反饋研究體系。

Q(記者): 今年，用于隱私數(shù)據(jù)保護的“差分隱私”技術入圍MIT Technology Review“十大突破性技術”；同時我國正在抓緊制定數(shù)據(jù)安全保護相關法律。而在當下，在隱私數(shù)據(jù)保護、隱私計算領域，學界業(yè)界取得了哪些突破進展？

A(李曉林教授): 隱私計算是面向隱私信息全生命周期保護的計算理論和方法。隨著數(shù)據(jù)隱私保護的法規(guī)出臺和執(zhí)行，違反隱私罰款高達數(shù)十億。隱私計算將會得到更廣泛的關注，技術體系也將會進一步完善，落地應用的步伐也會加快。移動操作系統(tǒng)數(shù)據(jù)隱私保護已經(jīng)在全球普遍落地。

隱私計算涉及到多種技術，包括：安全多方計算，聯(lián)邦學習，差分隱私，可信執(zhí)行環(huán)境等，每個技術在各自領域獨立發(fā)展的過程中，也慢慢呈現(xiàn)融合統(tǒng)一的趨勢。為此，同盾科技提出了“知識聯(lián)邦”的概念，作為一個統(tǒng)一的、層次化的框架體系，支持安全多方檢索、安全多方計算、安全多方學習（聯(lián)邦學習）、安全多方推理等技術方案。知識聯(lián)邦是打造數(shù)據(jù)安全的人工智能生態(tài)系統(tǒng)的基礎，也是未來通向AI3.0的必由之路。

Q: 差分隱私與您提到的知識聯(lián)邦理論有哪些區(qū)別，是否可以結合應用？

A: 由微軟研究院率先提出的差分隱私是密碼學中的一種實現(xiàn)隱私保護的技術手段，主要解決脫敏數(shù)據(jù)中個人隱私泄露的問題。差分隱私是一個概率概念，它通過加擾在統(tǒng)計數(shù)據(jù)的準確性和隱私參數(shù)之間進行權衡，可以廣泛用于數(shù)據(jù)收集、存儲、查詢、使用等全流程，實現(xiàn)準確性與隱私的均衡。差分隱私是實現(xiàn)保護數(shù)據(jù)隱私的的一種技術手段，可以用于知識聯(lián)邦。

知識聯(lián)邦不是一種單一的技術方法，它是一套理論框架體系，是人工智能、大數(shù)據(jù)、密碼學等幾個領域交叉融合的產(chǎn)物。知識聯(lián)邦主要解決了數(shù)據(jù)割裂和數(shù)據(jù)安全問題，同時實現(xiàn)知識發(fā)現(xiàn)和歸納。在知識聯(lián)邦的安全多方學習和安全多方計算應用中都可以使用差分隱私技術，來保護聯(lián)邦參與方數(shù)據(jù)、模型等隱私相關信息。

Q: 同盾人工智能研究院主攻的知識聯(lián)邦理論體系在隱私數(shù)據(jù)保護和隱私計算領域，作出了哪些貢獻？取得了哪些進展？

A: 在理論層面，知識聯(lián)邦包含四個層級：信息層、模型層、認知層和知識層。在每個層級中，聯(lián)邦的對象不同，應用目的也不相同。信息層主要是對加密數(shù)據(jù)進行聯(lián)合，然后進行計算或學習，可以用于安全多方計算或檢索，也可用于聯(lián)邦學習。模型層主要是發(fā)生在模型訓練階段，用于聯(lián)邦學習階段。認知層可以基于多種認知表達進行訓練學習，主要用于聯(lián)邦學習和聯(lián)邦預測。知識層則側重在多種知識表達的聯(lián)合，進行安全多方推理。知識聯(lián)邦是一個國產(chǎn)原創(chuàng)、自主可控、國際領先的框架體系。

同盾智邦平臺是基于知識聯(lián)邦體系實現(xiàn)的安全多方應用平臺，是一個工業(yè)級應用產(chǎn)品，已更新迭代到v2.2版本。在平臺中我們還實現(xiàn)了數(shù)據(jù)接入標準化和數(shù)據(jù)安全交換協(xié)議，可以讓數(shù)據(jù)提供者輕松地進行聯(lián)邦合作。

此外，在技術的普及和規(guī)范上，同盾人工智能研究院最近參與了中國信通院相關標準的制定：

●《基于聯(lián)邦學習的數(shù)據(jù)流通產(chǎn)品 技術要求與測試方法》標準第一版

●《基于可信執(zhí)行環(huán)境的數(shù)據(jù)計算平臺 技術要求與測試方法》標準第一版

●《基于多方安全計算的數(shù)據(jù)流通產(chǎn)品 技術要求和測試方法》標準第二版修訂

最近，同盾科技還正在與某些合作單位一起牽頭制定金融行業(yè)的聯(lián)邦學習和隱私保護相關標準。

Q: 同盾人工智能研究院的知識聯(lián)邦理論體系，未來將在哪些領域落地？

A: 首先在金融領域，我們會探索更多的落地場景。金融場景中所有需要多方參與建模、知識共享的場景都可以應用知識聯(lián)邦。尤其是針對個人的貸前風險防控和多頭共債中，因為在建?；驔Q策中涉及個人隱私信息和合規(guī)監(jiān)管要求，更需要使用知識聯(lián)邦體系下的聯(lián)邦學習、隱私計算等技術提供有力的技術支撐。

其次，在國家關注的政務大數(shù)據(jù)上，知識聯(lián)邦是一種很好的解決方案，因為聯(lián)邦的本質就是一種數(shù)據(jù)安全交換協(xié)議。通過知識聯(lián)邦可以幫助政府實現(xiàn)安全的數(shù)據(jù)虛擬融合，實現(xiàn)數(shù)據(jù)聯(lián)邦檢索，在保護個人信息的情況下，建立政府數(shù)據(jù)向社會開放的安全渠道。同時，可以為各部門行政審批事項梳理和業(yè)務流程再造提供支持。

此外，在智慧城市建設發(fā)展中，知識聯(lián)邦同樣可以發(fā)揮重要的作用。例如在車聯(lián)網(wǎng)，通過知識聯(lián)邦可以保護車主行為習慣的前提，讓每輛車輛與周邊車輛保持安全的信息交流，為自動駕駛形成助力。在社區(qū)監(jiān)控、疫情普查或智能門禁中，利用知識聯(lián)邦可以將區(qū)域或家庭監(jiān)控系統(tǒng)與公安的犯罪嫌疑人數(shù)據(jù)庫連通，通過本地計算分析，在保護過往行人的隱私情況下，對發(fā)現(xiàn)的潛質嫌疑人及時報警。因此，我們也在智慧醫(yī)療、智慧城市、智能物聯(lián)網(wǎng)等領域布局。

雷鋒網(wǎng)雷鋒網(wǎng)

雷峰網(wǎng)版權文章，未經(jīng)授權禁止轉載。詳情見轉載須知。