0
雷鋒網(wǎng)按：今年4月，對(duì)于互聯(lián)網(wǎng)內(nèi)容公司來(lái)說(shuō)是多事之秋。4月4日，快手和火山小視頻兩家平臺(tái)被廣電總局約談并進(jìn)行內(nèi)部清查整頓。9日，今日頭條與鳳凰新聞、網(wǎng)易新聞、天天快報(bào)等新聞?lì)怉PP被做下架處理，其中，今日頭條的下架時(shí)間最長(zhǎng)，達(dá)到3周。10日，《奇葩大會(huì)》第2季視頻全面下架，廣電總局責(zé)令永久關(guān)停內(nèi)涵段子。
4月6日，快手在某招聘網(wǎng)站發(fā)布的招聘信息顯示，為了加強(qiáng)審核能力與內(nèi)容上傳量的匹配，快手將在現(xiàn)有2000人的審核團(tuán)隊(duì)基礎(chǔ)上，擴(kuò)招3000名審核人員，將審核人員的規(guī)模擴(kuò)充到5000人。此前的1月3日，今日頭條在招聘網(wǎng)站上發(fā)布了有關(guān)內(nèi)容審核編輯的招聘信息，擬招聘2000人的內(nèi)容審核團(tuán)隊(duì)，同時(shí)今日頭條方面也表示，這個(gè)數(shù)據(jù)還會(huì)持續(xù)增加，預(yù)計(jì)很快突破10000人。
監(jiān)管逐漸趨嚴(yán)，對(duì)網(wǎng)絡(luò)低俗、色情、暴力內(nèi)容零容忍、嚴(yán)整頓，網(wǎng)絡(luò)內(nèi)容平臺(tái)亟需有效措施解決內(nèi)容審核方面的漏洞。
5月29日，為了幫助直播和短視頻平臺(tái)適應(yīng)加強(qiáng)的內(nèi)容審核需求，通過(guò)圖像識(shí)別來(lái)進(jìn)行內(nèi)容審核的人工智能公司圖普科技發(fā)布“高召回·識(shí)低俗·懂視頻”的內(nèi)容審核2.0新產(chǎn)品。雷鋒網(wǎng)來(lái)到發(fā)布會(huì)現(xiàn)場(chǎng)，試圖了解這款產(chǎn)品如何利用人工智能技術(shù)過(guò)濾低俗內(nèi)容。
據(jù)雷鋒網(wǎng)了解，傳統(tǒng)的圖像審核方式主要有三種：一是純?nèi)斯徍?。企業(yè)員工“三班倒”工作，人眼鑒別該圖片或視頻是否違規(guī)。二是建立MD5數(shù)據(jù)庫(kù)。網(wǎng)監(jiān)建立存儲(chǔ)違規(guī)圖片、視頻的MD5數(shù)據(jù)庫(kù)，用戶上傳后自動(dòng)分析MD5是否合法，則可避免涉黃內(nèi)容重復(fù)分享。三是傳統(tǒng)的智能審核。如識(shí)別色情圖像，基本是通過(guò)圖片RGB值識(shí)別膚色比例、通過(guò)建模識(shí)別異常動(dòng)作、敏感部位等。
但是三種審核方式都存在較大漏洞：“三班倒”的人工容易導(dǎo)致審核效率低、誤判漏判多等主觀性問(wèn)題；MD5則非常容易被篡改；傳統(tǒng)智能識(shí)別色情圖片準(zhǔn)確率低、經(jīng)常誤報(bào)等。而以圖普科技為代表的互聯(lián)網(wǎng)圖像內(nèi)容審核專(zhuān)家，基于人工智能與圖像識(shí)別技術(shù)領(lǐng)域的深度學(xué)習(xí)算法，通過(guò)模擬人腦神經(jīng)網(wǎng)絡(luò)構(gòu)建模型，能夠?qū)Ω邚?fù)雜度數(shù)據(jù)形成良好解讀。通過(guò)大數(shù)據(jù)持續(xù)訓(xùn)練、頻繁迭代，圖普科技的圖像識(shí)別云平臺(tái)的內(nèi)容審核產(chǎn)品的精確度達(dá)到99.5%，節(jié)省超過(guò)90%的人工復(fù)審工作。
發(fā)布會(huì)上，秒拍平臺(tái)副總裁陳太鋒表示：“面對(duì)目前嚴(yán)格的內(nèi)容審核需求，我們平臺(tái)方不僅僅需要準(zhǔn)確地識(shí)別違規(guī)內(nèi)容的審核服務(wù)，更需要能把所有疑似違規(guī)內(nèi)容都識(shí)別全的服務(wù)。因?yàn)槿魏我粭l漏網(wǎng)視頻帶來(lái)的后果，我們平臺(tái)方都是難以承受的?！?/p>
2017年短視頻出現(xiàn)，成為了新的UGC載體。隨著視頻數(shù)量的劇增、違規(guī)場(chǎng)景的變化，監(jiān)管方對(duì)內(nèi)容合規(guī)要求也在不斷調(diào)整，因此對(duì)平臺(tái)運(yùn)營(yíng)的要求也原來(lái)越高。據(jù)了解，今年3月，某短視頻平臺(tái)累計(jì)清理27231條違規(guī)視頻，8921個(gè)音頻，89個(gè)挑戰(zhàn)，永久封禁15234個(gè)賬號(hào)。
據(jù)圖普科技CEO李明強(qiáng)介紹，圖普科技的內(nèi)容審核2.0，使用更加成熟的深度學(xué)習(xí)技術(shù)，在1.0產(chǎn)品高召回率的基礎(chǔ)上，具備識(shí)別低俗內(nèi)容功能，能夠讀懂視頻，幫助平臺(tái)提高審核效率，過(guò)濾低俗、色情、暴力等內(nèi)容。根據(jù)內(nèi)容安全管理相關(guān)部門(mén)的規(guī)定，將低俗內(nèi)容分為四個(gè)分類(lèi)維度：危險(xiǎn)性行為、成癮性行為、涉嫌低俗場(chǎng)景、特殊人群，幫助平臺(tái)確保不出現(xiàn)淫穢色情、兇殺暴力等有害內(nèi)容，不傳播低俗惡俗內(nèi)容。
圖普科技內(nèi)容審核2.0產(chǎn)品除了擁有低俗內(nèi)容審核功能之外，還借助AI技術(shù)深度賦能，通過(guò)人物屬性、人物行為、場(chǎng)景識(shí)別、物體識(shí)別等四個(gè)維度來(lái)提取視頻內(nèi)容，幫助平臺(tái)方高效細(xì)分視頻內(nèi)容，助力平臺(tái)精細(xì)化運(yùn)營(yíng)。同時(shí)借助該功能，平臺(tái)可以進(jìn)行智能視頻檢索和比對(duì)，實(shí)現(xiàn)經(jīng)典視頻防篡改、版權(quán)視頻受保護(hù)、敏感視頻可檢索。
據(jù)其官網(wǎng)介紹，圖普科技是一家基于深度學(xué)習(xí)技術(shù)解讀圖片和視頻內(nèi)容的人工智能科技公司，提供圖像內(nèi)容審查服務(wù)，包括鑒黃、鑒暴、政治敏感、廣告過(guò)濾、直播監(jiān)控、頭像審核等，在2014年初創(chuàng)建并開(kāi)放了提供各類(lèi)圖像識(shí)別能力的云服務(wù)平臺(tái)，目前圖普云平臺(tái)涵蓋黃暴識(shí)別、人臉識(shí)別、證件識(shí)別、場(chǎng)景識(shí)別、圖像風(fēng)格化等數(shù)十種圖像識(shí)別接口，日均圖像接口調(diào)用數(shù)億次，累計(jì)處理超過(guò)1000億圖像，是較早將人工智能成功商業(yè)化落地的企業(yè)。合作方包括映客、秒拍、今日頭條、唱吧、酷狗、花椒直播等數(shù)百家互聯(lián)網(wǎng)企業(yè)和政企機(jī)構(gòu)。
現(xiàn)在關(guān)注“雷鋒網(wǎng)”微信公眾號(hào)（leiphone-sz），回復(fù)關(guān)鍵詞【2018】，隨機(jī)抽送價(jià)值 3999 元的參會(huì)門(mén)票 3 張
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
