0
| 本文作者： 郭思 | 2024-01-24 11:13 |
作者：郭思
編輯：陳彩嫻
在大模型不斷成熟的背景下，企業(yè)也日益傾向于在云端大規(guī)模應(yīng)用AI技術(shù)。這一進(jìn)程中，以往可能忽視的數(shù)據(jù)資源，突顯出了前所未有的戰(zhàn)略意義，數(shù)據(jù)的價(jià)值評(píng)估隨之動(dòng)態(tài)調(diào)整。與此同時(shí)，企業(yè)上云后，其安全架構(gòu)與業(yè)務(wù)運(yùn)作模式同步轉(zhuǎn)型升級(jí)，由此衍生出一系列全新的安全需求。
猶如“健康乃一切之本”的生活哲學(xué)，對(duì)于企業(yè)而言，數(shù)字安全同樣扮演著基石角色——無(wú)安全，則萬(wàn)業(yè)皆空。構(gòu)建強(qiáng)大的數(shù)字安全免疫系統(tǒng)并非臨時(shí)起意，而是企業(yè)長(zhǎng)遠(yuǎn)發(fā)展的必要工程。
1月17日，由工業(yè)和信息化部新聞宣傳中心（人民郵電報(bào)社）指導(dǎo)，騰訊安全、騰訊研究院、中國(guó)信息安全聯(lián)合三十余位業(yè)內(nèi)專家、學(xué)者、企業(yè)領(lǐng)袖共同編制的《數(shù)字安全免疫力建設(shè)指南》正式發(fā)布。
正如最高決策層所指出：“安全是發(fā)展的前提，發(fā)展是安全的保障”。鑒于大模型等先進(jìn)技術(shù)在企業(yè)運(yùn)營(yíng)中的普及應(yīng)用，騰訊安全提出“數(shù)字安全免疫力”框架，致力于為企業(yè)構(gòu)建一套立足于數(shù)據(jù)與業(yè)務(wù)雙核心、兼顧安全與發(fā)展策略的整合型理論與工具平臺(tái)。
在本次行業(yè)研討會(huì)上最新出爐的《數(shù)字安全免疫力建設(shè)指南》，便是這一框架在實(shí)踐層面的具體實(shí)施工具，如同探險(xiǎn)者手中的導(dǎo)航圖，幫助企業(yè)穿越復(fù)雜多變的數(shù)字安全叢林，確保前進(jìn)道路明晰，有效抵御各種安全風(fēng)險(xiǎn)。
隨著數(shù)字化進(jìn)程在全球范圍內(nèi)以前所未有的速度推進(jìn)，各行各業(yè)都在享受著信息技術(shù)帶來(lái)的便利與效率提升，但同時(shí)也面臨著日趨嚴(yán)峻的安全隱患和挑戰(zhàn)。
數(shù)字化的快速發(fā)展不僅極大地拓展了數(shù)據(jù)的疆界，使得海量信息在網(wǎng)絡(luò)空間中高速流轉(zhuǎn)，而且為潛在的惡意攻擊者提供了更多的切入點(diǎn)和隱蔽途徑，這無(wú)疑對(duì)企業(yè)現(xiàn)有的安全防護(hù)機(jī)制構(gòu)成了巨大的壓力。
傳統(tǒng)的安全建設(shè)思路主要依賴于物理邊界的“嚴(yán)防死守”和對(duì)已知安全事件的事后響應(yīng)機(jī)制。
然而，在企業(yè)資產(chǎn)快速數(shù)字化的階段，邊界的概念正在淡化與模糊。這種靜態(tài)的、基于邊界防護(hù)的方法，已經(jīng)不能有效應(yīng)對(duì)組織內(nèi)部的信息泄露和外部發(fā)起的復(fù)雜攻擊。黑客通過(guò)高級(jí)持續(xù)性威脅（APT）等方式，能夠繞過(guò)傳統(tǒng)防火墻，潛入企業(yè)網(wǎng)絡(luò)核心區(qū)域，竊取敏感信息或者破壞關(guān)鍵業(yè)務(wù)流程。
無(wú)論是2017年爆發(fā)的NotPetya勒索軟件事件以及2020年爆發(fā)的SolarWinds供應(yīng)鏈攻擊事件都是基于APT手段影響力非常之大的攻擊事件，2021年，針對(duì)Microsoft Exchange Server的零日漏洞攻擊更是震動(dòng)全球，影響了至少十個(gè)國(guó)家的數(shù)千家機(jī)構(gòu)。
如今，隨著AIGC技術(shù)的演進(jìn)，數(shù)字安全更是面臨著非常多動(dòng)態(tài)、未知的威脅。首先，數(shù)據(jù)規(guī)模空前龐大，暴力美學(xué)般的數(shù)據(jù)投喂模式，本身就構(gòu)成了巨大的審核難題；其次，隨著AI處理內(nèi)容的復(fù)雜性不斷提升，在模型搭建環(huán)節(jié)，不僅需要對(duì)基礎(chǔ)特征進(jìn)行精細(xì)化標(biāo)注，而且對(duì)于生成文本的連貫性、邏輯合理性和整體一致性有了前所未有的高標(biāo)準(zhǔn)要求。
在內(nèi)容創(chuàng)作應(yīng)用階段，先進(jìn)的AI技術(shù)加速了各類違規(guī)內(nèi)容的滋生，比如深度偽造產(chǎn)物、虛假新聞、違背倫理道德的素材，尤其是數(shù)據(jù)泄露事故發(fā)生的頻次正急劇增長(zhǎng)。
與此同時(shí)，AI驅(qū)動(dòng)的問(wèn)答系統(tǒng)能生成高度專業(yè)化的文本內(nèi)容，這進(jìn)一步擴(kuò)大了傳統(tǒng)內(nèi)容風(fēng)控的范疇，使得現(xiàn)有風(fēng)控機(jī)制面臨嚴(yán)峻考驗(yàn)，亟需擴(kuò)展應(yīng)對(duì)能力以覆蓋這些新興的風(fēng)險(xiǎn)領(lǐng)域。
此前，Cyberhaven 就曾針對(duì)160萬(wàn)名員工使用ChatGPT的情況進(jìn)行了統(tǒng)計(jì)分析，結(jié)果顯示有3.1%的員工選擇將企業(yè)內(nèi)部數(shù)據(jù)直接輸入ChatGPT以提升工作效率或?qū)で蠼鉀Q方案。在此背景下，曾發(fā)生過(guò)一起典型事件：三星公司的員工因試圖借助ChatGPT提高工作效能，不慎將包含敏感代碼資料與內(nèi)部會(huì)議詳情的信息提交給了該AI模型，在短短幾周內(nèi)即導(dǎo)致了三起機(jī)密數(shù)據(jù)泄露事故。
另一方面，在業(yè)內(nèi)人士看來(lái)，不同規(guī)模、行業(yè)、數(shù)字化程度企業(yè)遭遇的個(gè)性化安全挑戰(zhàn)不一而同，同時(shí)伴隨著外部威脅和市場(chǎng)環(huán)境的快速變化，能動(dòng)態(tài)掌握自身的安全水位的數(shù)字安全免疫力成為了重中之重。
在AIGC迅速席卷市場(chǎng)的同時(shí)，接踵而至的數(shù)據(jù)安全問(wèn)題引發(fā)了公眾的深切關(guān)注。除了我們所提及的AIGC 技術(shù)被惡意用來(lái)進(jìn)行安全攻擊外。
還有另一個(gè)維度的問(wèn)題也很自然地引發(fā)了大眾的思考，AIGC技術(shù)能否用于安全防護(hù)？在研討《數(shù)字安全免疫力建設(shè)指南》過(guò)程中，多位專家對(duì)AIGC引發(fā)的安全攻防變革做了深度思考。
東華軟件集團(tuán)高級(jí)副總裁、東華云計(jì)算有限公司董事長(zhǎng)兼CEO 郭浩哲指出，業(yè)界無(wú)法坐等大模型發(fā)展至全球普及時(shí)才采取行動(dòng)。相反，在這一轉(zhuǎn)型初期，就應(yīng)該積極地將業(yè)務(wù)系統(tǒng)的構(gòu)建與大模型技術(shù)緊密結(jié)合。盡管在此過(guò)程中可能出現(xiàn)的安全隱患與漏洞監(jiān)管是一項(xiàng)不容忽視的挑戰(zhàn)，但關(guān)鍵在于勇于實(shí)踐和探索。需要有漏洞監(jiān)管，這是另外一個(gè)問(wèn)題，關(guān)鍵是要去做。
這也預(yù)示著未來(lái)擺在行業(yè)面前的其實(shí)只有做與不做兩種抉擇。而企業(yè)如果選擇了全力以赴，其所面臨的困難其實(shí)也可想而知。
AIGC在攻防層面及其在廣義開(kāi)放性網(wǎng)絡(luò)安全的應(yīng)用，由于其極高的開(kāi)放性特點(diǎn)，導(dǎo)致其在策略指向性上的表現(xiàn)相對(duì)較弱。不論是傳統(tǒng)AI技術(shù)還是大模型，目前在精確度和訓(xùn)練優(yōu)化方面尚存在一定的不成熟之處。
這意味著，在較窄領(lǐng)域的數(shù)據(jù)安全方面，由于攻防對(duì)抗具有高度不確定性，如攻擊來(lái)源、目標(biāo)、行為和特征均未知，大模型在此類開(kāi)放性攻防場(chǎng)景下應(yīng)用頗具挑戰(zhàn)。
攻擊來(lái)源的不確定性意味著攻擊者可能來(lái)自任何一個(gè)角落：可能是內(nèi)部員工的意外操作、可能是外部黑客的蓄意襲擊，甚至可能是國(guó)家級(jí)的APT（高級(jí)持續(xù)性威脅）行動(dòng)。由于攻擊者可能采取各種方法隱藏真實(shí)身份和位置，追蹤和預(yù)防變得異常艱難。
另一方面，攻擊者可能針對(duì)不同的數(shù)據(jù)類型、不同的系統(tǒng)組件或不同的業(yè)務(wù)流程發(fā)起攻擊，這使得防護(hù)措施難以面面俱到，大模型在預(yù)測(cè)和防范未知目標(biāo)時(shí)可能存在盲區(qū)。
此外，攻擊行為的多樣性與復(fù)雜性也是挑戰(zhàn)之一。攻擊者可能采取多種新穎且難以識(shí)別的攻擊手段，如零日漏洞利用、社會(huì)工程學(xué)攻擊等，這些手段在大模型尚未接觸到的樣本集中并無(wú)體現(xiàn)，因此難以通過(guò)歷史數(shù)據(jù)訓(xùn)練出精準(zhǔn)的防御策略。
攻擊特征的未知性則意味著即便是最先進(jìn)的大模型，也無(wú)法完全預(yù)見(jiàn)所有可能的攻擊模式。尤其是在數(shù)據(jù)安全領(lǐng)域，許多攻擊手法和漏洞利用都是首次出現(xiàn)，傳統(tǒng)的特征匹配方法難以奏效，大模型需要具備更強(qiáng)的學(xué)習(xí)能力和泛化性能才能適應(yīng)這種不斷變化的威脅環(huán)境。
盡管大模型在特定情境下展現(xiàn)出了卓越的性能，但在面對(duì)高度動(dòng)態(tài)且充滿不確定性的攻防對(duì)抗環(huán)境時(shí)，仍需持續(xù)研發(fā)與優(yōu)化，以期更好地結(jié)合專家智慧、實(shí)時(shí)威脅情報(bào)及高效異常檢測(cè)機(jī)制，這樣才能有效地破解一系列安全挑戰(zhàn)，充分釋放大模型在數(shù)據(jù)安全領(lǐng)域的潛能。
不過(guò)在研討會(huì)現(xiàn)場(chǎng)，現(xiàn)任騰訊云安全總經(jīng)理李濱也指出，在數(shù)據(jù)安全應(yīng)用場(chǎng)景中，當(dāng)訪問(wèn)主體、客體及行為規(guī)律具備足夠的可理解性和預(yù)見(jiàn)性時(shí)，會(huì)為大模型技術(shù)的落地應(yīng)用創(chuàng)造極其有利的前提。目前，騰訊已經(jīng)在這一領(lǐng)域取得實(shí)質(zhì)性的突破，利用大模型對(duì)數(shù)據(jù)進(jìn)行細(xì)致的分類與分級(jí)優(yōu)化工作，特別是在語(yǔ)義識(shí)別維度上，顯著提升了分類準(zhǔn)確率。這項(xiàng)已經(jīng)趨于成熟的技術(shù)已被成功地整合進(jìn)騰訊的產(chǎn)品安全服務(wù)體系，有力推動(dòng)了數(shù)據(jù)安全保障能力的進(jìn)步與發(fā)展。
針對(duì)數(shù)據(jù)安全與數(shù)據(jù)流通性之間的平衡問(wèn)題，傳統(tǒng)的應(yīng)對(duì)策略通常依賴于插裝技術(shù)配合大規(guī)模標(biāo)簽庫(kù)進(jìn)行數(shù)據(jù)對(duì)比，但這無(wú)疑加重了系統(tǒng)的負(fù)荷。相較之下，騰訊通過(guò)運(yùn)用大模型對(duì)數(shù)據(jù)語(yǔ)義屬性進(jìn)行深度解析，成功實(shí)現(xiàn)了近實(shí)時(shí)的無(wú)需標(biāo)簽、無(wú)需插件的數(shù)據(jù)關(guān)系抽取，極大地提升了數(shù)據(jù)安全保障工作的效能。
在聚焦于有限可控范圍內(nèi)的數(shù)據(jù)安全事件分析時(shí)，由于數(shù)據(jù)領(lǐng)域中的合法主體與客體相對(duì)明確，騰訊通過(guò)融合多元技術(shù)手段，在該特定范圍內(nèi)實(shí)現(xiàn)了數(shù)據(jù)安全分析準(zhǔn)確度的大幅躍升。
在數(shù)據(jù)安全方面，數(shù)字安全免疫力建設(shè)指南提出數(shù)據(jù)分類、分級(jí)是數(shù)據(jù)安全建設(shè)的關(guān)鍵。同時(shí)要建立數(shù)據(jù)安全防護(hù)基線、建立統(tǒng)一化運(yùn)營(yíng)體系；業(yè)務(wù)安全方面，指南提出缺乏安全能力護(hù)航的業(yè)務(wù)可能成為黑灰產(chǎn)的“提款機(jī)”，人機(jī)識(shí)別、風(fēng)控引擎、內(nèi)容安全、業(yè)務(wù)安全合規(guī)等是必要的投入。
在數(shù)據(jù)安全領(lǐng)域，盡管大模型的應(yīng)用正在帶來(lái)顯著效果，但在高度不確定的攻防對(duì)抗場(chǎng)景中，依然需要不斷深化研發(fā)與優(yōu)化，結(jié)合專家知識(shí)、實(shí)時(shí)威脅情報(bào)以及高效的異常檢測(cè)機(jī)制，以應(yīng)對(duì)新的安全挑戰(zhàn)，最大化挖掘大模型在數(shù)據(jù)安全領(lǐng)域的潛力。
《數(shù)字安全免疫力建設(shè)指南》就好比醫(yī)生為病人定制了一套健康保養(yǎng)計(jì)劃。這套體系鼓勵(lì)企業(yè)構(gòu)建起一個(gè)能自動(dòng)偵測(cè)、快速抵抗和從攻擊中恢復(fù)的“數(shù)字護(hù)盾”。一旦遇到內(nèi)外部的“數(shù)字病菌”（即安全威脅），企業(yè)就能如同人體免疫系統(tǒng)般，迅速作出反應(yīng)，不僅能及時(shí)修復(fù)損害，還能從中吸取教訓(xùn)，不斷提升自身的安全防御力，確保企業(yè)在數(shù)字化旅程中穩(wěn)步前行，健康壯大。
風(fēng)會(huì)熄滅蠟燭，卻能使火越燒越旺。對(duì)隨機(jī)性、不確定性和混沌也是一樣：要利用它們，而不是躲避它們。要成為火，渴望得到風(fēng)的吹拂，大模型技術(shù)帶給數(shù)據(jù)安全防護(hù)的除了效率極大提升之外，更多的是對(duì)未知風(fēng)險(xiǎn)的不確定性，在這個(gè)交匯點(diǎn)上，騰訊以其獨(dú)特的方法論和工具集，帶給了行業(yè)一個(gè)絕佳啟示，無(wú)論是人還是企業(yè)遇到危險(xiǎn)，真正的安全從本質(zhì)上而言，其實(shí)是自己擁有的自發(fā)免疫力，面對(duì)不確定性，人人皆害怕，但從不確定性中獲益，或許才是騰訊安全的真正的競(jìng)爭(zhēng)力。
雷峰網(wǎng) 雷峰網(wǎng) 雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
