6月5日，在2025全球數(shù)字經(jīng)濟(jì)大會(huì)數(shù)字安全主論壇暨第七屆北京網(wǎng)絡(luò)安全大會(huì)（BCS）期間舉辦的第六屆金融數(shù)字化轉(zhuǎn)型與網(wǎng)絡(luò)安全論壇上，來自運(yùn)營商、金融科技、網(wǎng)絡(luò)安全和學(xué)術(shù)界的七位頂尖專家齊聚一堂，展開了題為“人工智能時(shí)代的網(wǎng)絡(luò)安全新變局”的圓桌對(duì)話。

  圓桌對(duì)話由北大國發(fā)院傳播中心主任王賢青主持，對(duì)話專家分別從各自領(lǐng)域的專業(yè)視角出發(fā)，深入探討了AI技術(shù)飛速發(fā)展給網(wǎng)絡(luò)安全領(lǐng)域帶來的深刻挑戰(zhàn)與戰(zhàn)略機(jī)遇。與會(huì)專家普遍認(rèn)為，AI重塑了網(wǎng)絡(luò)攻防格局，需要業(yè)界協(xié)同以智能對(duì)抗智能，構(gòu)建以人為本、安全內(nèi)生的發(fā)展新范式。

對(duì)話嘉賓包括王賢青、張建桁、譚曉生、董青馬、況文川、高曉飛、江愛軍（由左至右）

 

  AI伴生安全風(fēng)險(xiǎn)，催生系統(tǒng)性挑戰(zhàn)

  專家們指出，AI技術(shù)在降低攻擊門檻、提升攻擊效率的同時(shí)，也帶來了前所未有的風(fēng)險(xiǎn)維度。

北大國發(fā)院傳播中心主任王賢青

  首先是攻擊平民化的挑戰(zhàn)。北京賽博英杰科技有限公司創(chuàng)始人、董事長譚曉生強(qiáng)調(diào)，大模型的出現(xiàn)讓攻擊者無需深厚編程功底，“精心設(shè)計(jì)的提示詞可以突破系統(tǒng)防線，誘導(dǎo)AI泄露受保護(hù)的敏感信息，造成嚴(yán)重后果?！甭?lián)通數(shù)字科技有限公司安全事業(yè)部副總經(jīng)理張建桁認(rèn)為，利用智能體可以大大提高網(wǎng)絡(luò)攻擊的效率。國內(nèi)DeepSeek推出之后，把AI推向通用化。這意味著針對(duì)運(yùn)營商、云服務(wù)商，包括政企用戶的更廣泛攻擊，這是對(duì)運(yùn)營商來說下一步面臨的最大挑戰(zhàn)。主持人王賢青也補(bǔ)充，AI普及導(dǎo)致對(duì)編程等方面的要求降低，降低了網(wǎng)絡(luò)攻擊的門檻，這意味著AI使非專業(yè)人士也能發(fā)動(dòng)高效攻擊。

北京賽博英杰科技有限公司創(chuàng)始人、董事長譚曉生

聯(lián)通數(shù)字科技有限公司安全事業(yè)部副總經(jīng)理張建桁

  其次是模型自身安全的挑戰(zhàn)。譚曉生進(jìn)一步指出，由數(shù)學(xué)思維主導(dǎo)構(gòu)建的AI系統(tǒng)，缺乏對(duì)安全編碼規(guī)范的重視，可能導(dǎo)致系統(tǒng)崩潰或被完全控制，從而可以導(dǎo)致篡改決策的風(fēng)險(xiǎn)。此外，AI本身缺乏權(quán)限管理和訪問控制，易引發(fā)核心數(shù)據(jù)泄露風(fēng)險(xiǎn)。奇安信集團(tuán)AI高級(jí)研究員江愛軍補(bǔ)充認(rèn)為，目前人工智能垂域大模型中的核心信息資產(chǎn)泄露風(fēng)險(xiǎn)；AI應(yīng)用模糊傳統(tǒng)軟件邏輯層與數(shù)據(jù)層，打破權(quán)限控制，這是當(dāng)前重要的風(fēng)險(xiǎn)點(diǎn)。

奇安信集團(tuán)AI高級(jí)研究員江愛軍

  第三是趨同性與風(fēng)險(xiǎn)傳染。西南財(cái)經(jīng)大學(xué)中國金融研究院副院長董青馬聚焦金融行業(yè)，揭示了AI應(yīng)用的潛在系統(tǒng)風(fēng)險(xiǎn)：“當(dāng)金融機(jī)構(gòu)普遍采用大模型，使用相似的底層邏輯和基礎(chǔ)語料庫，會(huì)導(dǎo)致決策趨同的問題，缺乏生態(tài)的多樣性?！蓖瑫r(shí)，AI加速信息傳播也使得風(fēng)險(xiǎn)傳遞和虛假信息擴(kuò)散速度遠(yuǎn)超以往。中國電子首席科學(xué)家、中電金信研究院院長況文川指出，金融機(jī)構(gòu)在利用生成式人工智能快速理解客戶特質(zhì)和交互數(shù)據(jù)以提供個(gè)性化服務(wù)的同時(shí)，也需要應(yīng)對(duì)趨同性問題，即大家使用相似模型是否可能導(dǎo)致服務(wù)同質(zhì)化，金融機(jī)構(gòu)需要充分運(yùn)用自己的私有數(shù)據(jù)、個(gè)性化語料、專業(yè)知識(shí)庫以及與自身業(yè)務(wù)邏輯的結(jié)合，來體現(xiàn)出自己的競爭優(yōu)勢。

西南財(cái)經(jīng)大學(xué)中國金融研究院副院長董青馬

 

中國電子首席科學(xué)家、中電金信研究院院長況文川

 

  最后是數(shù)據(jù)安全風(fēng)險(xiǎn)與算力瓶頸。中國長城市場合作部副總經(jīng)理高曉飛直指當(dāng)前我國人工智能面臨兩大痛點(diǎn)：AI訓(xùn)練和應(yīng)用對(duì)數(shù)據(jù)的渴求突破了傳統(tǒng)數(shù)據(jù)安全防線；同時(shí)，關(guān)鍵算力芯片（如高端GPU）的供應(yīng)保障及國產(chǎn)AI軟件生態(tài)的成熟度，構(gòu)成國家層面AI安全發(fā)展的現(xiàn)實(shí)瓶頸。

 

中國長城市場合作部副總經(jīng)理高曉飛

 

  以“AI”筑盾，構(gòu)建主動(dòng)防御體系

  面對(duì)AI帶來的風(fēng)險(xiǎn)與挑戰(zhàn)，安全防護(hù)面臨范式的轉(zhuǎn)變。與會(huì)專家建議用AI對(duì)抗AI風(fēng)險(xiǎn)。AI同樣為網(wǎng)絡(luò)安全防御帶來革命性工具和方法。

  首先是效率躍升。譚曉生分享了AI的積極面：“過去安全運(yùn)維人員疲于應(yīng)對(duì)日均數(shù)千萬條告警，往往只能依靠規(guī)則強(qiáng)壓告警，難免漏報(bào)與錯(cuò)報(bào)?，F(xiàn)在，借助AI強(qiáng)大的推理與分析能力，能夠高效處理海量告警，大幅提升防御效率和精準(zhǔn)度，部分替代中低端安全分析師工作?！?/p>

  其次是“智能對(duì)抗智能”新范式。聯(lián)通數(shù)字科技有限公司安全事業(yè)部副總經(jīng)理張建桁介紹了運(yùn)營商的應(yīng)對(duì)策略：面對(duì)云網(wǎng)基礎(chǔ)設(shè)施面臨的規(guī)模化、智能化攻擊威脅，聯(lián)通正構(gòu)建‘主動(dòng)防御’體系，核心就是以AI對(duì)抗AI，在自身安全運(yùn)營體系中部署智能體?！彼麖?qiáng)調(diào)了運(yùn)營商在“云網(wǎng)端”協(xié)同防護(hù)與快速溯源處置方面的獨(dú)特優(yōu)勢。

  最后是賦能安全運(yùn)營與研發(fā)。江愛軍指出，包括奇安信在內(nèi)的網(wǎng)絡(luò)安全廠商正積極應(yīng)用AI技術(shù)應(yīng)對(duì)新型攻擊向量，優(yōu)化產(chǎn)品研發(fā)工作的效率與成本，并賦能網(wǎng)絡(luò)安全運(yùn)營。

 

  破局之道：協(xié)同構(gòu)建智能安全新生態(tài)

   針對(duì)如何在AI時(shí)代筑牢安全防線，專家們提出關(guān)鍵路徑。

“人在閉環(huán)”與責(zé)任明晰：況文川指出，必須在關(guān)鍵決策點(diǎn)（如涉及道德、重大風(fēng)險(xiǎn)）保留人工判斷，“智能體適用于規(guī)則明確、重復(fù)性任務(wù)，但人仍是最終責(zé)任主體”。張建桁補(bǔ)充，需建立健全AI被劫持時(shí)的應(yīng)急處置預(yù)案和責(zé)任追溯機(jī)制。

   推進(jìn)安全內(nèi)生：況文川強(qiáng)調(diào)，安全應(yīng)內(nèi)生于AI系統(tǒng)設(shè)計(jì)和業(yè)務(wù)運(yùn)營中。他提出“三明治”策略：嚴(yán)格區(qū)分公共訓(xùn)練數(shù)據(jù)、企業(yè)私有知識(shí)庫和用戶核心隱私數(shù)據(jù)，并通過物理或邏輯隔離，防止交叉污染與違規(guī)訪問。江愛軍則指出，網(wǎng)絡(luò)安全廠商需審視產(chǎn)品工作流程是否適應(yīng)AI變化，關(guān)注防護(hù)效果、效率和成本，推進(jìn)安全內(nèi)生。他還強(qiáng)調(diào)利用AI賦能企業(yè)研發(fā)、安全運(yùn)營和服務(wù)，提升整體安全能力。

   守住風(fēng)險(xiǎn)底線與自主可控：董青馬呼吁在金融安全等關(guān)鍵領(lǐng)域，要守住系統(tǒng)性風(fēng)險(xiǎn)底線，首要任務(wù)是確保不發(fā)生系統(tǒng)性風(fēng)險(xiǎn)。此外，要確保AI的自主可控。AI是關(guān)乎未來國際競爭的國家級(jí)戰(zhàn)略資源和武器。必須建立自主可控的AI體系，從源頭（技術(shù)、數(shù)據(jù)、標(biāo)準(zhǔn)等）確保其安全可靠，不受制于人。高曉飛則強(qiáng)調(diào)產(chǎn)業(yè)鏈協(xié)同解決算力“卡脖子”問題的緊迫性。

   本次圓桌討論為應(yīng)對(duì)人工智能時(shí)代的網(wǎng)絡(luò)安全新變局提供了豐富的思想碰撞和實(shí)踐指引。AI在放大攻擊能力的同時(shí)，為防御體系升級(jí)提供新工具。為此，須通過AI對(duì)抗AI、管理重構(gòu)、生態(tài)安全三層聯(lián)動(dòng)，在發(fā)展中平衡效率與風(fēng)險(xiǎn)。最終構(gòu)建"可控的智能"，使技術(shù)服務(wù)于人的解放而非威脅人類安全底線。

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。