0
| 本文作者： 趙青暉 | 2022-02-22 23:02 |
文/趙青暉 方查理
“網(wǎng)絡(luò)暴力”由來已久，在十幾年前的PC時代，互聯(lián)網(wǎng)還沒有像如今這樣滲透到人們生活的方方面面，關(guān)于網(wǎng)絡(luò)暴力的話題就已經(jīng)引起了人們的關(guān)注與警惕，隨著技術(shù)的進步，移動互聯(lián)網(wǎng)時代的到來，近些年“網(wǎng)民”數(shù)量急劇攀升，網(wǎng)絡(luò)暴力的影響范圍也越來越大，甚至逐漸黑產(chǎn)化。
防網(wǎng)暴勢在必行。
移動互聯(lián)網(wǎng)為人們生活帶來便利的同時，也給網(wǎng)暴黑產(chǎn)造就了溫床，社交平臺、短視頻平臺等多個公共網(wǎng)絡(luò)場所成為了網(wǎng)暴行為的高發(fā)地，評論、私信也成為了網(wǎng)絡(luò)暴力的主要手段，所謂“能力越大，責(zé)任越大”，對于網(wǎng)暴亂象，除了輿論呼吁外，各大網(wǎng)絡(luò)平臺也應(yīng)當承擔起幫助用戶防止網(wǎng)絡(luò)暴力的責(zé)任。
如在近期火熱的冬奧會期間，就有不少人通過網(wǎng)絡(luò)平臺的評論和私信功能對冬奧選手進行詆毀、侮辱攻擊、散布不實謠言，對冬奧觀賽和社區(qū)氛圍造成了極大的傷害，前不久，短視頻平臺抖音就針對冬奧會的情況對331個網(wǎng)暴冬奧選手的賬號進行了禁言或封號的處罰處理。
近幾年來，作為國內(nèi)最大短視頻平臺之一的抖音看上去對“能力越大，責(zé)任越大”這句話有極為深刻的理解：過去一年中，抖音的公開課、曲藝、鄉(xiāng)村相關(guān)視頻內(nèi)容高速增長；也大力推動了老年化適配，有專屬的老人專線；此外還做了最用心的青少年模式，雷峰網(wǎng)(公眾號：雷峰網(wǎng))還曾對世面上視頻平臺的青少年模式做過橫向?qū)Ρ?，結(jié)果顯示抖音各項產(chǎn)品綜合最優(yōu)。
而抖音的另一個長期持續(xù)關(guān)注的領(lǐng)域，則選在了“防網(wǎng)暴”方面。
正如2018年更新的抖音品牌slogan“記錄美好生活”一樣，抖音里“每個人既是內(nèi)容創(chuàng)作者，又是內(nèi)容消費者”。每天伴隨海量的內(nèi)容創(chuàng)作和消費，也有大量的評論、私信產(chǎn)生。抖音每天會有8億條評論產(chǎn)生，其中，被處理的視頻里，“謾罵，人身攻擊”占比32.79%。
這樣海量的負面評論內(nèi)容，如果只是在事后處理，一方面會讓平臺面臨巨大的治理壓力，另一方面，對于用戶來說，網(wǎng)絡(luò)暴力行為已經(jīng)發(fā)生，受到的創(chuàng)傷很難得到平復(fù)。
所以，抖音在今年1月更新了用戶風(fēng)險提醒、負面內(nèi)容過濾等系列功能，通過8大功能，成為國內(nèi)首個在各個場景下提供預(yù)防網(wǎng)暴服務(wù)的平臺。從評論和私信兩個維度出發(fā)，從主動管理發(fā)送者到接收者自我管理，從前期的評論發(fā)送警示，到中期的私信分層管理，再到后期平臺小助手提供“心情關(guān)懷”，打通了預(yù)防網(wǎng)暴前中后的整個流程。
雷峰網(wǎng)也針對抖音全新的防網(wǎng)暴功能，進行了全面的評測。
雷峰網(wǎng)此次對抖音全新防網(wǎng)暴的功能評測，主要在兩方面，一方面是面向創(chuàng)作者的新權(quán)限與功能評測，看新的功能是否可以直接為創(chuàng)作者帶來更好的體驗，另一方面從人文關(guān)懷方面出發(fā)，探尋抖音是如何嘗試從本質(zhì)上減少網(wǎng)暴行為的。
1、面向創(chuàng)作者的新權(quán)限與功能
抖音中最基礎(chǔ)的私信對象限定功能，早在2017年12月就已經(jīng)上線，用戶可以設(shè)置為所有人/互關(guān)好友/關(guān)閉三種狀態(tài)中選擇，是最徹底和基礎(chǔ)的私信過濾。
但對于“大V”、流量主、商用賬號等需要面對大量陌生人、單向關(guān)注者的用戶，他們無法一刀切地限制私信對象，所以這些特殊人群在此前經(jīng)常會遇到廣告、謾罵、騷擾等問題。
而1月底上線的“用戶風(fēng)險提醒和負向內(nèi)容過濾”功能，對前述問題進行了很大程度的優(yōu)化。
用戶風(fēng)險提醒是系統(tǒng)引導(dǎo)用戶去管理，對陌生人或單關(guān)人消息進行識別，并提供“拉黑/舉報/移除粉絲”的彈窗。負向內(nèi)容過濾是利用了算法自動處理，識別謾罵/騷擾信息后，自動折疊到陌生人垃圾信息中。
根據(jù)抖音官方的數(shù)據(jù)，該功能上線后，日均對25萬次會話發(fā)出風(fēng)險提示，日均近9萬條消息被列入垃圾信息，日均超過7萬用戶受益。
而對于評論方面，抖音上線了“誰可以評論”的選項。其默認選擇“所有人”，但另外有“所有人”、“僅粉絲”、“僅互關(guān)朋友”、“僅自己”四個選項可選，對新視頻和舊視頻都可以選擇，簡單、粗暴、有效。
2、面向內(nèi)容消費者的人文關(guān)懷
抖音里的創(chuàng)作者和消費者是一體兩面的。
線上網(wǎng)暴者，很多都是線下的弱勢群體，可能是因為抑郁等心理問題才會對他人實施網(wǎng)暴行為，當然，這不是為了給網(wǎng)暴人開脫，而是需要我們關(guān)注施暴者部分群體所面臨的問題，引導(dǎo)其走向正軌。如果說針對創(chuàng)作者的防網(wǎng)暴功能是“治標”，那抖音針對對違規(guī)用戶進行引導(dǎo)和幫助，則是在嘗試“治本”。
在防網(wǎng)暴升級后，抖音現(xiàn)在會對評論進行模型匹配和校驗，發(fā)布違規(guī)或低質(zhì)評論之后，會立即收到評論彈窗警示，提示“該評論可能對他人造成負面影響”，給用戶一個回心轉(zhuǎn)意的機會。
當然，彈窗可以跳過并繼續(xù)發(fā)布評論，但將不會被其它人看見，此時評論會進入正常審核邏輯，真正的違規(guī)評論依然會被處理。
抖音在新的防網(wǎng)暴系統(tǒng)中新增了名為“心情暖寶寶”的平臺助手，如果用戶多次違規(guī)發(fā)布私信、評論，算法可以自動匹配觸發(fā)“心情暖寶寶”，用消息對話嘗試緩解用戶的抑郁情緒，甚至引導(dǎo)用戶去人工求助、線下就診。
更具體一點來說，用戶會收到類似“您好，我們關(guān)注到您最近在站內(nèi)發(fā)表的內(nèi)容，擔心您的心理狀態(tài)。生活雖不完美，但我們?nèi)钥莎熡约海绻胝覀€人傾訴，可以在XX時間段選擇轉(zhuǎn)人工，小助手很愿意傾聽您的心聲”之類的文案。此外，用戶也可以自主在推薦、搜索、評論等場景減少負面內(nèi)容推薦。
其實，這不是抖音第一次用算法幫助弱勢用戶了，在2021年抖音也為上千位有自殺傾向的用戶提供過救助，在這一點上，作為國內(nèi)頭部的平臺，抖音并沒有僅僅利用技術(shù)和算法對網(wǎng)暴人群粗暴地進行處理，而是在技術(shù)的基礎(chǔ)上，增加了更多的人文關(guān)懷，嘗試從根源處解決問題，這是所有大型網(wǎng)絡(luò)平臺都值得學(xué)習(xí)的方式。
在移動互聯(lián)網(wǎng)時代，網(wǎng)絡(luò)暴力變得更加頻發(fā)，在網(wǎng)上對他人施暴的成本也越來越低，這些暴力事件對于受害者來說，都是無可磨滅的傷痛，而在某些偶發(fā)的輿論事件中，無數(shù)施暴者在并不了解內(nèi)情的情況下，會被情緒引導(dǎo)，參與到大規(guī)模的網(wǎng)暴中。
而多年來，關(guān)于停止網(wǎng)暴的呼吁有很多，但收效甚微，也就是說，僅僅寄希望于網(wǎng)民提升自我認知和素質(zhì)來消除網(wǎng)暴，于現(xiàn)階段是不現(xiàn)實的事情，所以，不論是抖音，還是其他的網(wǎng)絡(luò)平臺，更應(yīng)該承擔起防網(wǎng)暴的重任。
此次抖音升級的防網(wǎng)暴系統(tǒng)就是一個非常不錯的標桿案例，在技術(shù)上，實現(xiàn)了對無論是視頻創(chuàng)作者還是普通用戶，都有更好的保護措施。在人文關(guān)懷上，更深層次的考慮到施暴者的心理行為可能，從而引導(dǎo)更多人消除戾氣，共建良好網(wǎng)絡(luò)社交環(huán)境。
利用技術(shù)的方式，從評論和私信入手，對于還未進入網(wǎng)暴階段的用戶進行監(jiān)督、引導(dǎo)，預(yù)防網(wǎng)暴事件的發(fā)生，能夠更好的緩解平臺的治理壓力，也能夠讓受害者免于網(wǎng)暴侵襲，此外，對于已經(jīng)觸犯網(wǎng)暴行為的賬號進行嚴肅處理，建立一個良好的網(wǎng)絡(luò)生態(tài)環(huán)境，是未來各個平臺都需要去做的事情。
抖音的防網(wǎng)暴升級，一方面體現(xiàn)了作為短視頻頭部平臺的科技能力和責(zé)任心，另一方面也為未來其它平臺利用技術(shù)治理網(wǎng)暴行為做了一個不錯的范例。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
