代表人類科技未來的人工智能技術(shù)正逐漸滲透到越來越多的垂直領(lǐng)域，但我們審核內(nèi)容的方式仍然有些原始。擁有近20億用戶的科技巨頭Facebook正在努力扭轉(zhuǎn)這一局面。

從此前流出內(nèi)部幻燈片來看（這些幻燈片展示了Facebook如何判斷哪些內(nèi)容違反了其社區(qū)標(biāo)準(zhǔn)），F(xiàn)acebook仍然很大程度上依賴于其社區(qū)運(yùn)營團(tuán)隊(duì)來決定保留或刪除哪些帖子。

也就是說，盡管馬克·扎克伯格（Mark Zuckerberg）正努力將人工智能技術(shù)推廣到所有領(lǐng)域，但在內(nèi)容審核方面人類仍然占據(jù)著主導(dǎo)地位。好在局面已經(jīng)開始有所改變。

據(jù)雷鋒網(wǎng)了解，F(xiàn)acebook曾在今年3月份宣布，將推出一套能夠識別出試圖自殺或自殘的用戶的AI系統(tǒng)。這套系統(tǒng)通過比對用戶的帖子和評論與其先前帖子的相似性來判斷其自殺的風(fēng)險(xiǎn)。如果系統(tǒng)判斷某條帖子具有自殺傾向，就會在其他用戶瀏覽這條帖子時(shí)，突出顯示“上報(bào)自殘”的選項(xiàng)。

值得注意的是，是否上報(bào)最終還是由人來決定的。AI無法判斷，它只能提供幫助。

Facebook在判斷我們上傳照片的內(nèi)容時(shí)，已經(jīng)表現(xiàn)得越來越出色，即使照片中沒有任何文字或標(biāo)簽。早在今年二月份，F(xiàn)acebook就指出，用戶可以使用它基于AI的圖像識別工具來搜索照片，比如搜索上面有穿黑襯衫的人的照片。

AI在識別照片上的內(nèi)容以及揣測帖子背后的意圖等方面的進(jìn)步，對于人們識別每天發(fā)布在Facebook上的有關(guān)暴力、虐待和威脅的內(nèi)容，具有莫大幫助。Facebook發(fā)言人表示，公司的初步目標(biāo)是用自動化系統(tǒng)協(xié)助人類管理員。

雷鋒網(wǎng)好奇的是，既然AI系統(tǒng)可以識別照片中的內(nèi)容以及帖子背后的意圖，那么是否也可以用它來自動標(biāo)記和刪除網(wǎng)站上的敏感內(nèi)容呢？網(wǎng)絡(luò)上這樣子的內(nèi)容實(shí)在太多了。據(jù)雷鋒網(wǎng)了解，短短一個(gè)月內(nèi)，F(xiàn)acebook就發(fā)現(xiàn)了五千五百萬起疑似性騷擾和色情報(bào)復(fù)的案例。

目前來看，AI系統(tǒng)還無法擔(dān)負(fù)這一重任。Facebook發(fā)言人坦承，其AI系統(tǒng)在理解語境方面還不夠智能。

對于Facebook來說，某條帖子的語境對于判斷它是否應(yīng)該被刪除至關(guān)重要。由于上下文間的關(guān)系往往比較隱晦，尤其是在語義本身比較模糊時(shí)，AI系統(tǒng)通常無法準(zhǔn)確判斷。

在對待有關(guān)性和暴力的內(nèi)容時(shí)，根據(jù)此前泄露出的Facebook內(nèi)部文件，社區(qū)運(yùn)營團(tuán)隊(duì)在對待兩條敏感帖子時(shí)的處理方式完全不同。發(fā)布“Little girl needs to keep to herself before daddy breaks her face”這樣的內(nèi)容是被允許的，“#stab and become the fear of the Zionist”則不行。

理解這些判斷依據(jù)對人類來說尚且有些困難，人工智能系統(tǒng)就更是無能為力了。

Facebook改變現(xiàn)狀的愿望很強(qiáng)烈，而且已經(jīng)在大力推動用人工智能監(jiān)測網(wǎng)站上的圖片和視頻內(nèi)容了。

扎克伯格在二月份的公開信中說道：

“我們正在研究可以識別照片和視頻內(nèi)容的AI系統(tǒng)，這套系統(tǒng)可以標(biāo)記疑似內(nèi)容，以便我們的團(tuán)隊(duì)再次審核。這項(xiàng)研究仍處于早期階段，不過我們已經(jīng)開始讓它監(jiān)控部分內(nèi)容了，而且它已經(jīng)提供了我們團(tuán)隊(duì)審核內(nèi)容中的三分之一?！?/p>

這套系統(tǒng)是否可以用來監(jiān)控我們發(fā)布的文字及其語境還有待觀察，不過有一點(diǎn)可以確定，F(xiàn)acebook正在為這一目標(biāo)而努力奮斗。

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。