文/趙青暉 方查理

“網(wǎng)絡(luò)暴力”由來(lái)已久，在十幾年前的PC時(shí)代，互聯(lián)網(wǎng)還沒(méi)有像如今這樣滲透到人們生活的方方面面，關(guān)于網(wǎng)絡(luò)暴力的話題就已經(jīng)引起了人們的關(guān)注與警惕，隨著技術(shù)的進(jìn)步，移動(dòng)互聯(lián)網(wǎng)時(shí)代的到來(lái)，近些年“網(wǎng)民”數(shù)量急劇攀升，網(wǎng)絡(luò)暴力的影響范圍也越來(lái)越大，甚至逐漸黑產(chǎn)化。

防網(wǎng)暴勢(shì)在必行。

防網(wǎng)暴成抖音下一個(gè)持續(xù)關(guān)注領(lǐng)域

移動(dòng)互聯(lián)網(wǎng)為人們生活帶來(lái)便利的同時(shí)，也給網(wǎng)暴黑產(chǎn)造就了溫床，社交平臺(tái)、短視頻平臺(tái)等多個(gè)公共網(wǎng)絡(luò)場(chǎng)所成為了網(wǎng)暴行為的高發(fā)地，評(píng)論、私信也成為了網(wǎng)絡(luò)暴力的主要手段，所謂“能力越大，責(zé)任越大”，對(duì)于網(wǎng)暴亂象，除了輿論呼吁外，各大網(wǎng)絡(luò)平臺(tái)也應(yīng)當(dāng)承擔(dān)起幫助用戶防止網(wǎng)絡(luò)暴力的責(zé)任。

如在近期火熱的冬奧會(huì)期間，就有不少人通過(guò)網(wǎng)絡(luò)平臺(tái)的評(píng)論和私信功能對(duì)冬奧選手進(jìn)行詆毀、侮辱攻擊、散布不實(shí)謠言，對(duì)冬奧觀賽和社區(qū)氛圍造成了極大的傷害，前不久，短視頻平臺(tái)抖音就針對(duì)冬奧會(huì)的情況對(duì)331個(gè)網(wǎng)暴冬奧選手的賬號(hào)進(jìn)行了禁言或封號(hào)的處罰處理。

近幾年來(lái)，作為國(guó)內(nèi)最大短視頻平臺(tái)之一的抖音看上去對(duì)“能力越大，責(zé)任越大”這句話有極為深刻的理解：過(guò)去一年中，抖音的公開(kāi)課、曲藝、鄉(xiāng)村相關(guān)視頻內(nèi)容高速增長(zhǎng)；也大力推動(dòng)了老年化適配，有專屬的老人專線；此外還做了最用心的青少年模式，雷峰網(wǎng)還曾對(duì)世面上視頻平臺(tái)的青少年模式做過(guò)橫向?qū)Ρ?，結(jié)果顯示抖音各項(xiàng)產(chǎn)品綜合最優(yōu)。

而抖音的另一個(gè)長(zhǎng)期持續(xù)關(guān)注的領(lǐng)域，則選在了“防網(wǎng)暴”方面。

正如2018年更新的抖音品牌slogan“記錄美好生活”一樣，抖音里“每個(gè)人既是內(nèi)容創(chuàng)作者，又是內(nèi)容消費(fèi)者”。每天伴隨海量的內(nèi)容創(chuàng)作和消費(fèi)，也有大量的評(píng)論、私信產(chǎn)生。抖音每天會(huì)有8億條評(píng)論產(chǎn)生，其中，被處理的視頻里，“謾罵，人身攻擊”占比32.79%。

這樣海量的負(fù)面評(píng)論內(nèi)容，如果只是在事后處理，一方面會(huì)讓平臺(tái)面臨巨大的治理壓力，另一方面，對(duì)于用戶來(lái)說(shuō)，網(wǎng)絡(luò)暴力行為已經(jīng)發(fā)生，受到的創(chuàng)傷很難得到平復(fù)。

所以，抖音在今年1月更新了用戶風(fēng)險(xiǎn)提醒、負(fù)面內(nèi)容過(guò)濾等系列功能，通過(guò)8大功能，成為國(guó)內(nèi)首個(gè)在各個(gè)場(chǎng)景下提供預(yù)防網(wǎng)暴服務(wù)的平臺(tái)。從評(píng)論和私信兩個(gè)維度出發(fā)，從主動(dòng)管理發(fā)送者到接收者自我管理，從前期的評(píng)論發(fā)送警示，到中期的私信分層管理，再到后期平臺(tái)小助手提供“心情關(guān)懷”，打通了預(yù)防網(wǎng)暴前中后的整個(gè)流程。

雷峰網(wǎng)也針對(duì)抖音全新的防網(wǎng)暴功能，進(jìn)行了全面的評(píng)測(cè)。

抖音防網(wǎng)暴的評(píng)測(cè)

雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))此次對(duì)抖音全新防網(wǎng)暴的功能評(píng)測(cè)，主要在兩方面，一方面是面向創(chuàng)作者的新權(quán)限與功能評(píng)測(cè)，看新的功能是否可以直接為創(chuàng)作者帶來(lái)更好的體驗(yàn)，另一方面從人文關(guān)懷方面出發(fā)，探尋抖音是如何嘗試從本質(zhì)上減少網(wǎng)暴行為的。

1、面向創(chuàng)作者的新權(quán)限與功能

抖音中最基礎(chǔ)的私信對(duì)象限定功能，早在2017年12月就已經(jīng)上線，用戶可以設(shè)置為所有人/互關(guān)好友/關(guān)閉三種狀態(tài)中選擇，是最徹底和基礎(chǔ)的私信過(guò)濾。

但對(duì)于“大V”、流量主、商用賬號(hào)等需要面對(duì)大量陌生人、單向關(guān)注者的用戶，他們無(wú)法一刀切地限制私信對(duì)象，所以這些特殊人群在此前經(jīng)常會(huì)遇到廣告、謾罵、騷擾等問(wèn)題。

而1月底上線的“用戶風(fēng)險(xiǎn)提醒和負(fù)向內(nèi)容過(guò)濾”功能，對(duì)前述問(wèn)題進(jìn)行了很大程度的優(yōu)化。

用戶風(fēng)險(xiǎn)提醒是系統(tǒng)引導(dǎo)用戶去管理，對(duì)陌生人或單關(guān)人消息進(jìn)行識(shí)別，并提供“拉黑/舉報(bào)/移除粉絲”的彈窗。負(fù)向內(nèi)容過(guò)濾是利用了算法自動(dòng)處理，識(shí)別謾罵/騷擾信息后，自動(dòng)折疊到陌生人垃圾信息中。

根據(jù)抖音官方的數(shù)據(jù)，該功能上線后，日均對(duì)25萬(wàn)次會(huì)話發(fā)出風(fēng)險(xiǎn)提示，日均近9萬(wàn)條消息被列入垃圾信息，日均超過(guò)7萬(wàn)用戶受益。

而對(duì)于評(píng)論方面，抖音上線了“誰(shuí)可以評(píng)論”的選項(xiàng)。其默認(rèn)選擇“所有人”，但另外有“所有人”、“僅粉絲”、“僅互關(guān)朋友”、“僅自己”四個(gè)選項(xiàng)可選，對(duì)新視頻和舊視頻都可以選擇，簡(jiǎn)單、粗暴、有效。

2、面向內(nèi)容消費(fèi)者的人文關(guān)懷

抖音里的創(chuàng)作者和消費(fèi)者是一體兩面的。

線上網(wǎng)暴者，很多都是線下的弱勢(shì)群體，可能是因?yàn)橐钟舻刃睦韱?wèn)題才會(huì)對(duì)他人實(shí)施網(wǎng)暴行為，當(dāng)然，這不是為了給網(wǎng)暴人開(kāi)脫，而是需要我們關(guān)注施暴者部分群體所面臨的問(wèn)題，引導(dǎo)其走向正軌。如果說(shuō)針對(duì)創(chuàng)作者的防網(wǎng)暴功能是“治標(biāo)”，那抖音針對(duì)對(duì)違規(guī)用戶進(jìn)行引導(dǎo)和幫助，則是在嘗試“治本”。

在防網(wǎng)暴升級(jí)后，抖音現(xiàn)在會(huì)對(duì)評(píng)論進(jìn)行模型匹配和校驗(yàn)，發(fā)布違規(guī)或低質(zhì)評(píng)論之后，會(huì)立即收到評(píng)論彈窗警示，提示“該評(píng)論可能對(duì)他人造成負(fù)面影響”，給用戶一個(gè)回心轉(zhuǎn)意的機(jī)會(huì)。

當(dāng)然，彈窗可以跳過(guò)并繼續(xù)發(fā)布評(píng)論，但將不會(huì)被其它人看見(jiàn)，此時(shí)評(píng)論會(huì)進(jìn)入正常審核邏輯，真正的違規(guī)評(píng)論依然會(huì)被處理。

抖音在新的防網(wǎng)暴系統(tǒng)中新增了名為“心情暖寶寶”的平臺(tái)助手，如果用戶多次違規(guī)發(fā)布私信、評(píng)論，算法可以自動(dòng)匹配觸發(fā)“心情暖寶寶”，用消息對(duì)話嘗試緩解用戶的抑郁情緒，甚至引導(dǎo)用戶去人工求助、線下就診。

更具體一點(diǎn)來(lái)說(shuō)，用戶會(huì)收到類似“您好，我們關(guān)注到您最近在站內(nèi)發(fā)表的內(nèi)容，擔(dān)心您的心理狀態(tài)。生活雖不完美，但我們?nèi)钥莎熡约海绻胝覀€(gè)人傾訴，可以在XX時(shí)間段選擇轉(zhuǎn)人工，小助手很愿意傾聽(tīng)您的心聲”之類的文案。此外，用戶也可以自主在推薦、搜索、評(píng)論等場(chǎng)景減少負(fù)面內(nèi)容推薦。

其實(shí)，這不是抖音第一次用算法幫助弱勢(shì)用戶了，在2021年抖音也為上千位有自殺傾向的用戶提供過(guò)救助，在這一點(diǎn)上，作為國(guó)內(nèi)頭部的平臺(tái)，抖音并沒(méi)有僅僅利用技術(shù)和算法對(duì)網(wǎng)暴人群粗暴地進(jìn)行處理，而是在技術(shù)的基礎(chǔ)上，增加了更多的人文關(guān)懷，嘗試從根源處解決問(wèn)題，這是所有大型網(wǎng)絡(luò)平臺(tái)都值得學(xué)習(xí)的方式。

應(yīng)對(duì)、甚至消除網(wǎng)暴是平臺(tái)的責(zé)任

在移動(dòng)互聯(lián)網(wǎng)時(shí)代，網(wǎng)絡(luò)暴力變得更加頻發(fā)，在網(wǎng)上對(duì)他人施暴的成本也越來(lái)越低，這些暴力事件對(duì)于受害者來(lái)說(shuō)，都是無(wú)可磨滅的傷痛，而在某些偶發(fā)的輿論事件中，無(wú)數(shù)施暴者在并不了解內(nèi)情的情況下，會(huì)被情緒引導(dǎo)，參與到大規(guī)模的網(wǎng)暴中。

而多年來(lái)，關(guān)于停止網(wǎng)暴的呼吁有很多，但收效甚微，也就是說(shuō)，僅僅寄希望于網(wǎng)民提升自我認(rèn)知和素質(zhì)來(lái)消除網(wǎng)暴，于現(xiàn)階段是不現(xiàn)實(shí)的事情，所以，不論是抖音，還是其他的網(wǎng)絡(luò)平臺(tái)，更應(yīng)該承擔(dān)起防網(wǎng)暴的重任。

此次抖音升級(jí)的防網(wǎng)暴系統(tǒng)就是一個(gè)非常不錯(cuò)的標(biāo)桿案例，在技術(shù)上，實(shí)現(xiàn)了對(duì)無(wú)論是視頻創(chuàng)作者還是普通用戶，都有更好的保護(hù)措施。在人文關(guān)懷上，更深層次的考慮到施暴者的心理行為可能，從而引導(dǎo)更多人消除戾氣，共建良好網(wǎng)絡(luò)社交環(huán)境。

利用技術(shù)的方式，從評(píng)論和私信入手，對(duì)于還未進(jìn)入網(wǎng)暴階段的用戶進(jìn)行監(jiān)督、引導(dǎo)，預(yù)防網(wǎng)暴事件的發(fā)生，能夠更好的緩解平臺(tái)的治理壓力，也能夠讓受害者免于網(wǎng)暴侵襲，此外，對(duì)于已經(jīng)觸犯網(wǎng)暴行為的賬號(hào)進(jìn)行嚴(yán)肅處理，建立一個(gè)良好的網(wǎng)絡(luò)生態(tài)環(huán)境，是未來(lái)各個(gè)平臺(tái)都需要去做的事情。

抖音的防網(wǎng)暴升級(jí)，一方面體現(xiàn)了作為短視頻頭部平臺(tái)的科技能力和責(zé)任心，另一方面也為未來(lái)其它平臺(tái)利用技術(shù)治理網(wǎng)暴行為做了一個(gè)不錯(cuò)的范例。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。