“2021世界人工智能大會-可信AI論壇”今日在上海召開，來自美、英、澳等多國院士、學(xué)者，共同探討可信AI從認知演進，到理論研究，再到產(chǎn)業(yè)探索等多個的議題。螞蟻集團副總裁、首席AI科學(xué)家漆遠教授在會上透露，繼“隱私計算”和“圖學(xué)習(xí)”技術(shù)取得實踐成果后，螞蟻集團在可信AI技術(shù)體系中的又一項重要技術(shù)——“智能對抗”技術(shù)現(xiàn)已正式上線部署，支持反欺詐等多個風(fēng)控場景。

漆遠在會上分享了螞蟻集團在可信AI技術(shù)領(lǐng)域的多項技術(shù)和應(yīng)用成果。他表示，融入經(jīng)濟學(xué)“博弈理論”的“智能對抗”技術(shù)，能夠借助“雙手互博”的演習(xí)機制，讓AI模擬黑產(chǎn)發(fā)起對自身的攻擊演練，從而幫助AI在風(fēng)險識別能力、抗打擊能力上持續(xù)、自動進化升級。據(jù)悉，該技術(shù)應(yīng)用于金融風(fēng)控領(lǐng)域，在業(yè)內(nèi)尚屬首次。

做好未來5年的技術(shù)儲備 “智能對抗”技術(shù)已上線

“未來的風(fēng)控將不再是人和人的斗爭，而是AI與AI的博弈，”漆遠在演講中表示，“在支付寶上，每天上億筆交易背后，發(fā)起攻擊的早已不是散戶，而是專業(yè)的黑產(chǎn)團伙?！?/p>

為了應(yīng)對復(fù)雜多變的黑產(chǎn)攻擊，如何持續(xù)加強風(fēng)控模型的抗打擊能力，做到“魔高一尺，道高一丈”成為擺在螞蟻集團技術(shù)團隊面前的難題。

2018年，漆遠帶領(lǐng)著螞蟻集團AI技術(shù)骨干，在人工智能模型算法中融入經(jīng)濟學(xué)“博弈理論”，開發(fā)了一項業(yè)界全新的技術(shù)——“智能對抗”，即通過結(jié)合AI和博弈對抗，讓機器自動且實時、動態(tài)地對自身系統(tǒng)進行安全性攻擊，從而提升模型能力，使模型更加魯棒（robust），處理結(jié)果更加準確。

就像金庸小說里的“雙手互博”，借助“智能對抗”技術(shù)，用更智能的 “攻”，實現(xiàn)更安全的“防”。 “智能對抗”技術(shù)在權(quán)威機構(gòu)Gartner發(fā)表的白皮書中被列為2021年十大金融科技趨勢之一。因該技術(shù)具有對風(fēng)險知識形成感知、分析和預(yù)測的能力，未來將成為可信AI領(lǐng)域的核心安全技術(shù)。

記者了解到，自2018年起，螞蟻集團“智能對抗”技術(shù)的相關(guān)研究成果已陸續(xù)在包括ICML、ICLR在內(nèi)的全球技術(shù)頂會上發(fā)表，擁有全球?qū)＠?項。2020年，“智能對抗”技術(shù)正式應(yīng)用于支付寶反欺詐，目前已覆蓋支付寶風(fēng)控的賬戶、欺詐、交易安全等多個場景，對AI模型的魯棒性（robustness）有明顯提升。

可信AI是數(shù)字時代“抵御風(fēng)險”的關(guān)鍵能力

隨著數(shù)字化進程的不斷加速，AI在推進傳統(tǒng)產(chǎn)業(yè)數(shù)字化升級的過程中作用顯著。在借助AI防御數(shù)字經(jīng)濟風(fēng)險的同時，如何確保AI的安全、可信和公平成為全行業(yè)關(guān)注的重要課題。

今年6月，螞蟻集團首次向外界發(fā)布了螞蟻可信AI技術(shù)架構(gòu)體系，具體來看：拓展數(shù)據(jù)價值的隱私計算技術(shù)，實現(xiàn)「數(shù)據(jù)不動價值動」的重要命題；“博弈與魯棒性”是保障AI可信及穩(wěn)定運營的關(guān)鍵，“可解釋性與因果分析”和“公平性”的研究能夠幫助人類更好地信任及依賴AI做出正確決策。

全球?qū)＠麢?quán)威機構(gòu)IPR Daily在6月發(fā)布報告顯示，螞蟻集團目前擁有全球范圍內(nèi)數(shù)量最多的“AI安全可信關(guān)鍵技術(shù)”專利。

可信AI不再是理論和暢想，已全面應(yīng)用實踐

作為數(shù)字經(jīng)濟中“抵御風(fēng)險”的關(guān)鍵，可信AI技術(shù)目前已在螞蟻集團包括反欺詐、反洗錢、反賭博、企業(yè)聯(lián)合風(fēng)控、數(shù)據(jù)隱私保護在內(nèi)的多個風(fēng)控場景下落地，支撐著支付寶全風(fēng)險域的防御需求，也是“螞蟻反欺詐智能風(fēng)險感知與響應(yīng)系統(tǒng)”的核心技術(shù)。

除金融風(fēng)控場景外，可信AI技術(shù)還被廣泛應(yīng)用于數(shù)據(jù)隱私保護、金融科技服務(wù)等多個領(lǐng)域。前不久，采用可信AI技術(shù)的網(wǎng)商銀行“大山雀” 衛(wèi)星遙感風(fēng)控系統(tǒng)項目獲評農(nóng)業(yè)部農(nóng)村部農(nóng)村金融十佳創(chuàng)新實踐。

同時，圍繞AI公平性的建設(shè)和發(fā)展，螞蟻先后啟動了針對不發(fā)達地區(qū)的“AI豆計劃”、針對視障礙人群的“空中手勢”驗證碼方案等項目。通過可信AI技術(shù)的研究和投入，促進相對落后地區(qū)的經(jīng)濟發(fā)展，幫扶弱勢群體，彌合數(shù)字鴻溝。

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。