灰黑產(chǎn)、內(nèi)容合規(guī)等游戲安全問(wèn)題是每個(gè)游戲廠商都面臨的難題。而且隨著游戲行業(yè)的日益繁榮，處理游戲安全的難度陡然上升，傳統(tǒng)運(yùn)營(yíng)手段局限性日益凸顯——技術(shù)實(shí)力不足，耗時(shí)耗力。

這種形式下，越來(lái)越多的游戲廠商開(kāi)始考慮通過(guò)游戲安全解決方案來(lái)攻克自己面臨的游戲安全問(wèn)題，護(hù)航游戲業(yè)務(wù)健康發(fā)展。

9月2日，Game For游戲創(chuàng)新論壇2022在廣州召開(kāi)。成都潛在人工智能科技有限公司（以下簡(jiǎn)稱“行者AI”）聯(lián)合華為云發(fā)布「游戲安全智能平臺(tái)」。該平臺(tái)是行者AI基于華為云ModelArts打造的一站式游戲安全解決方案，是處理游戲安全問(wèn)題的進(jìn)階版平臺(tái)。

 

該平臺(tái)提供智能高效的內(nèi)容審核解決方案，為玩家提供清朗的游戲環(huán)境；支持全球7大地區(qū)、22種語(yǔ)言的多語(yǔ)種違規(guī)檢測(cè)，讓游戲出海更省心；同時(shí)，還提供覆蓋50+種業(yè)務(wù)場(chǎng)景、識(shí)別準(zhǔn)確率高達(dá)99.9%的智能灰產(chǎn)挖掘解決方案，幫助游戲企業(yè)一手掌控系統(tǒng)風(fēng)險(xiǎn)。

一、惡意內(nèi)容、灰黑產(chǎn)怪現(xiàn)狀

游戲廠商處境艱

當(dāng)下，越來(lái)越多的廠商都意識(shí)到了游戲安全的重要性。處理好游戲安全問(wèn)題，才能保證營(yíng)收和口碑，不然輕則上熱搜被玩家吐槽，重則被整改或者下架。

行者AI CEO陳洪宇在會(huì)上介紹，游戲安全一般分為內(nèi)容安全和業(yè)務(wù)安全兩個(gè)方面。據(jù)統(tǒng)計(jì)，這兩個(gè)方面涉及的灰黑產(chǎn)每年給游戲開(kāi)發(fā)商帶來(lái)數(shù)十億元規(guī)模的損失。

 

（行者AI CEO陳洪宇）

在內(nèi)容安全方面，游戲本身的內(nèi)容是廠商可以控制的，但是玩家發(fā)布的內(nèi)容就不是廠商可以控制的了，而這正是導(dǎo)致很多游戲廠商被下架的原因。

總的來(lái)說(shuō)，這類違規(guī)內(nèi)容具有龐大、復(fù)雜、多變的特性，廠商內(nèi)容審核難度陡增。有數(shù)據(jù)顯示，這些惡意內(nèi)容的量級(jí)數(shù)以億計(jì)，會(huì)有文字、圖片、語(yǔ)音等多種形式；且不同游戲類型游戲的違規(guī)內(nèi)容也五花八門，違規(guī)信息可能出現(xiàn)在昵稱、頭像、聊天窗口、名片簽名、空間中。此外，這些違規(guī)內(nèi)容生產(chǎn)者們，為了躲避系統(tǒng)監(jiān)測(cè)，手段一直升級(jí)，會(huì)用諧音字、象形字、亂碼等形式繞過(guò)檢測(cè)。所謂“魔高一尺，道高一丈”，面對(duì)龐大復(fù)雜多變的違規(guī)內(nèi)容，游戲廠商需要實(shí)時(shí)更新敏感詞庫(kù)、更新檢測(cè)系統(tǒng)。

而這其中，還有一類內(nèi)容會(huì)直接影響游戲廠商營(yíng)收——游戲內(nèi)出現(xiàn)的惡意拉人現(xiàn)象。這種現(xiàn)象在MMORPG、SLG大型游戲尤其明顯。這類游戲的買量成本非常高，很多拉人的游戲工會(huì)潛伏在游戲中，在游戲內(nèi)通過(guò)公開(kāi)聊天頻道或者私聊的方式在游戲中“挖”人，誘導(dǎo)玩家去玩其他游戲。這種行為會(huì)讓游戲玩家損失用戶，營(yíng)收下降。

違規(guī)內(nèi)容龐大、復(fù)雜之外，玩家對(duì)于清朗游戲環(huán)境的要求也在提升。這是因?yàn)橐咔橹?，游戲充?dāng)了更多的社交屬性，玩家也很重視游戲中的社交環(huán)境氛圍。有數(shù)據(jù)顯示，20%-30%玩家非常重視社交氛圍，如果在游戲里出現(xiàn)大量低俗、謾罵的內(nèi)容，會(huì)讓很多玩家反感，影響游戲口碑。雙向疊加，游戲內(nèi)容安全重要性日益凸顯，廠商們也亟需更可靠、高效的技術(shù)來(lái)加持內(nèi)容審核。

在業(yè)務(wù)安全方面，讓游戲廠商頭疼的灰黑產(chǎn)愈發(fā)猖獗，更直接地影響著廠商的錢袋子。陳洪宇表示，這方面的灰黑產(chǎn)主要包括代充、外掛、羊毛黨等7大類型。以外掛來(lái)說(shuō)，這種行為不僅影響廠商的營(yíng)收，也會(huì)給玩家?guī)?lái)經(jīng)濟(jì)損失。玩家購(gòu)買外掛后，可能會(huì)在開(kāi)掛時(shí)被封號(hào)且投訴無(wú)門，這會(huì)影響玩家游戲體驗(yàn)。

同時(shí)，還有SLG游戲里經(jīng)常充斥的資源商，這些資源商會(huì)低價(jià)出售游戲中的資源禮包，那么就會(huì)直接影響廠商的資源禮包出售量，直接讓游戲的整體收入下滑。而更常見(jiàn)的灰產(chǎn)主要聚焦于游戲賬號(hào)、游戲的營(yíng)銷工具以及自動(dòng)腳本。這些灰產(chǎn)行為會(huì)破壞游戲的平衡性，甚至?xí)斐捎螒虮旧淼拇a和美術(shù)資源的泄露，對(duì)游戲廠商來(lái)說(shuō)是致命打擊。

二、聯(lián)手華為云

行者AI使出“必殺技”

基于游戲廠商面臨的內(nèi)容安全和業(yè)務(wù)安全問(wèn)題，華為云和行者AI聯(lián)手推出了「游戲安全智能平臺(tái)」，為游戲廠商提供智能高效的解決方案，全方位護(hù)航游戲安全。

兩者聯(lián)手打造的「游戲安全智能平臺(tái)」實(shí)現(xiàn)了99%精準(zhǔn)攔截率的人工智能審核，而且搭配有24小時(shí)不間斷的人工服務(wù)咨詢，有效節(jié)省廠商的成本并提高效率。

「游戲安全智能平臺(tái)」還有基于關(guān)系圖譜的挖掘和機(jī)器學(xué)習(xí)的算法，可以根據(jù)已有的灰產(chǎn)賬號(hào)識(shí)別有關(guān)聯(lián)關(guān)系的灰產(chǎn)賬號(hào)，解決潛在威脅，可以通過(guò)AI技術(shù)實(shí)力防止廠商用戶流失并保護(hù)廠商的營(yíng)收。

講完了「游戲安全智能平臺(tái)」的技術(shù)能力，還要看看平臺(tái)的實(shí)操問(wèn)題。

以傳奇類游戲?yàn)槔?，拉人廣告是困擾著傳奇類游戲的開(kāi)發(fā)商的主要游戲安全問(wèn)題?！赣螒虬踩悄芷脚_(tái)」的廣告識(shí)別率達(dá)行業(yè)領(lǐng)先水平，綜合識(shí)別率可達(dá)96.32%，精準(zhǔn)的廣告識(shí)別率正是傳奇類網(wǎng)游所需要的。具體怎么實(shí)現(xiàn)的，以一個(gè)具體業(yè)務(wù)場(chǎng)景為例：

• 一些灰產(chǎn)制造商，首先會(huì)用普通的語(yǔ)言表述來(lái)試探傳奇類游戲平臺(tái)內(nèi)的敏感詞。一旦這些表述被游戲平臺(tái)識(shí)別，這些灰產(chǎn)制造商會(huì)使用分離字形、特殊字形的方式躲避游戲平臺(tái)的敏感詞，甚至?xí)褂貌仡^詩(shī)或者特殊話術(shù)的方式躲掉審核和監(jiān)控。

• 這時(shí)「游戲安全智能平臺(tái)」不僅會(huì)進(jìn)行常規(guī)的那審核，針對(duì)藏頭詩(shī)這種狡猾的方式，還會(huì)利用深度語(yǔ)言模型來(lái)解決藏頭詩(shī)的問(wèn)題。這是因?yàn)椤赣螒虬踩悄芷脚_(tái)」的模型可以增量式主動(dòng)學(xué)習(xí)，讓AI越來(lái)越聰明。

• 同時(shí)，「游戲安全智能平臺(tái)」還提供定制化服務(wù)和專家運(yùn)營(yíng)，為客戶提供輿情、風(fēng)控等專業(yè)解決方案。

就這樣，「游戲安全智能平臺(tái)」讓客戶的產(chǎn)品免除了被下架的風(fēng)險(xiǎn)，保護(hù)了客戶營(yíng)收，同時(shí)讓客戶不會(huì)收到用戶的不良體驗(yàn)感投訴。

三、游戲安全產(chǎn)品多且雜

廠商應(yīng)該如何選

游戲安全的重要性日益凸顯的當(dāng)下，市場(chǎng)上也涌現(xiàn)了不少解決此類問(wèn)題的游戲安全產(chǎn)品。這種情形下，游戲廠商該如何選擇？

除了要考慮技術(shù)實(shí)力，這類產(chǎn)品背后的公司和平臺(tái)也是需要考察的因素。

「游戲安全智能平臺(tái)」背后的行者AI在技術(shù)開(kāi)發(fā)上有著近5年的積淀，在技術(shù)上會(huì)跑在新型灰產(chǎn)前面。在技術(shù)高速發(fā)展的當(dāng)下，很多灰產(chǎn)賬號(hào)通過(guò)云增機(jī)方式、IP池、帳號(hào)池，繞過(guò)傳統(tǒng)的運(yùn)營(yíng)手段。

但是行者AI會(huì)基于深度學(xué)習(xí)框架，把低維度信息，賬號(hào)登陸信息，游戲每天的日常交易，低維度抽離成了上萬(wàn)個(gè)高維度信息，從這些里面可以精準(zhǔn)的找出危險(xiǎn)玩家和正常玩家，幫客戶找回以前的灰產(chǎn)損失。

行者AI在給Lakoo（拉闊游戲）旗下的一款MMORPG產(chǎn)品處理游戲安全問(wèn)題時(shí)。深度分析了這個(gè)游戲面臨的灰產(chǎn)問(wèn)題。行者AI通過(guò)分析賬號(hào)行為數(shù)據(jù)、結(jié)合賬號(hào)之間的關(guān)聯(lián)信息，完成異常賬號(hào)的深度挖掘，準(zhǔn)確率遠(yuǎn)超客戶預(yù)期，行者AI在灰產(chǎn)挖掘上可以做到找準(zhǔn)率達(dá)96%以上，幫助客戶降低直接的經(jīng)濟(jì)損失。

此外，行者AI團(tuán)隊(duì)有著近10年的游戲市場(chǎng)和開(kāi)發(fā)經(jīng)驗(yàn)，可以為客戶提供符合當(dāng)下發(fā)展規(guī)劃的定制化服務(wù)。

行者AI在服務(wù)武漢掌游時(shí)，使得其審核量實(shí)現(xiàn)了全天24小時(shí)實(shí)時(shí)監(jiān)控審核。武漢掌游作為華中地區(qū)最大的發(fā)行商之一，旗下發(fā)行游戲上百余款，每天的數(shù)據(jù)量是巨大的，這樣的成績(jī)?yōu)槲錆h掌游減少了更多游戲安全風(fēng)險(xiǎn)。

目前，「游戲安全智能平臺(tái)」智能模型的準(zhǔn)確率、召回率可達(dá)99%，而且智能模型會(huì)隨著游戲數(shù)據(jù)不斷增大而變得更“聰明”。正是憑借「游戲安全智能平臺(tái)」的這個(gè)實(shí)力，掌游原有的50人的審核人員縮減到10人左右。縮減下來(lái)的人力成本每個(gè)月可以達(dá)到數(shù)十萬(wàn)，這對(duì)客戶來(lái)說(shuō)是意外的驚喜和收獲。

「游戲安全智能平臺(tái)」背后還有華為云。

這就不得不提華為云一站式AI開(kāi)發(fā)平臺(tái)ModelArts，這個(gè)AI“利器”在「游戲安全智能平臺(tái)」的聯(lián)合創(chuàng)新中起著關(guān)鍵性作用。ModelArts是華為云在2018年開(kāi)始發(fā)布的AI平臺(tái)，迄今為止已經(jīng)上線運(yùn)行了整整四年的時(shí)間，是中國(guó)市場(chǎng)占有率最高的AI平臺(tái)。

在AI研發(fā)效率方面，華為云ModelArts Workflow幫助行者AI進(jìn)行產(chǎn)品的全流程生命周期管理。將行者AI的產(chǎn)品能力封裝成可視化的流水線中的一個(gè)個(gè)步驟，使用者只需要關(guān)注流水線生產(chǎn)出來(lái)的模型或者應(yīng)用是否符合上線要求，操作簡(jiǎn)單便捷，易于復(fù)用及二次開(kāi)發(fā)，加速完成AI應(yīng)用落地和迭代。

另外，針對(duì)AI開(kāi)發(fā)過(guò)程中算力稀缺且昂貴的問(wèn)題，ModelArts可支持按需使用，秒級(jí)調(diào)用萬(wàn)核規(guī)模異構(gòu)訓(xùn)練作業(yè)。

陳洪宇也提到，行者AI通過(guò)ModelArts特有的異構(gòu)資源調(diào)度框架，幫助客戶解決模型定制化需求，還基于Ml-ops的全流程開(kāi)發(fā)工具，節(jié)省了大量的模型訓(xùn)練和迭代時(shí)間。

除了聯(lián)合行者AI發(fā)布「游戲安全智能平臺(tái)」，華為云自身也有一整套游戲安全能力。目前，華為云已協(xié)同生態(tài)伙伴共創(chuàng)了游戲外掛、游戲灰產(chǎn)、內(nèi)容安全、單機(jī)盜版以及云上安全等場(chǎng)景化解決方案，覆蓋游戲安全全場(chǎng)景需求，全方位守護(hù)游戲運(yùn)行。同時(shí)，依托華為自身30年安全運(yùn)營(yíng)積累，華為云秉承中立、安全、合規(guī)的理念并積淀了豐富經(jīng)驗(yàn)，能夠?yàn)橛螒蚬镜挠脩粜畔?、業(yè)務(wù)數(shù)據(jù)提供安全合規(guī)的運(yùn)行環(huán)境。

有了華為云的大平臺(tái)實(shí)力和行者AI的行業(yè)老兵加成，「游戲安全智能平臺(tái)」可以給客戶提供更穩(wěn)定、可靠的游戲安全技術(shù)支撐。

后記

值得一提的是，行者AI加入了華為云生態(tài)伙伴計(jì)劃D-PLAN。這一計(jì)劃是圍繞華為云一站式AI開(kāi)發(fā)平臺(tái)ModelArts推出的一項(xiàng)合作伙伴計(jì)劃，通過(guò)與合作伙伴共建AI生態(tài)體系的方式，并提供營(yíng)銷支持和銷售支持，全面向全球發(fā)布（含伙伴云）。伙伴可參與華為云相關(guān)品牌活動(dòng)，進(jìn)行品牌運(yùn)營(yíng)，優(yōu)先導(dǎo)入商機(jī)，與華為云一起，全方位打通AI開(kāi)發(fā)中的堵點(diǎn)、難點(diǎn)，加速AI應(yīng)用落地。

可以預(yù)見(jiàn)，在華為云開(kāi)放的生態(tài)環(huán)境下，還可以幫助更多行者AI這樣的公司，誕生更多「游戲安全智能平臺(tái)」這樣的產(chǎn)品，不僅可以打好游戲安全保衛(wèi)戰(zhàn)，還將服務(wù)游戲廠商去滿足玩家和市場(chǎng)更多不斷變化的新需求。

雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。