圖①：小紅書平臺“小紅盾·網(wǎng)暴防護”界面。

圖②：抖音平臺反網(wǎng)暴倡議頁面。

互聯(lián)網(wǎng)截圖

近期，一批明星運動員解散粉絲群，在輿論場中蕩起層層漣漪。究其原委，離不開一個話題：網(wǎng)絡(luò)暴力。

從“有償代罵”到煽動“飯圈”互撕，從“開盒”曝光隱私到AI偽造，網(wǎng)絡(luò)暴力的形態(tài)隨技術(shù)迭代愈發(fā)隱蔽，網(wǎng)暴治理的利劍也加速出鞘。

近年打擊網(wǎng)絡(luò)暴力的舉措中，“壓實平臺主體責任”被反復探討。2024年8月，我國首部以部門規(guī)章形式公布的反網(wǎng)絡(luò)暴力專門立法《網(wǎng)絡(luò)暴力信息治理規(guī)定》正式實施，進一步明晰了平臺的權(quán)責。

面對網(wǎng)暴，平臺有哪些舉措，又承擔哪些責任？記者對此進行了探訪。

“按鍵傷人”為何頻發(fā)

明顯的生理不適——心跳加速，胸悶，手腳發(fā)涼、發(fā)麻。這是自媒體創(chuàng)作者林怡（化名）發(fā)現(xiàn)自己被網(wǎng)暴后的第一反應。

那個早上，她像往常一樣醒來，手機屏幕多出上千條未讀消息，點開全是不堪入目的辱罵。兩天前，她在社交媒體上發(fā)布一條視頻，記錄了自己和男友就醫(yī)的經(jīng)歷。幾句不合時宜的玩笑，加上名校學生身份，讓她成了網(wǎng)絡(luò)暴力的“靶子”。

“我就像不受控制一樣，不斷翻看那些罵我的評論，停不下來?！被叵肫鹉莻€時刻，她仍然心有余悸。除了線上瘋狂涌入的惡評，騷擾甚至延伸至線下。“最嚴重的幾天，我父母的信息被人肉，我還接到很多莫名其妙的陌生電話，接通后冷不丁就開始罵人。”

林怡的遭遇并不是個例。一項針對全國3591名受訪者進行的調(diào)查發(fā)現(xiàn)，超六成受訪者自稱經(jīng)歷過不同程度的網(wǎng)絡(luò)暴力。打開社交媒體檢索“網(wǎng)暴”，也能看到不少網(wǎng)友講述自己的親身經(jīng)歷。

一件小事，隨口一句發(fā)言，都可能引來不同意見者的惡語相向、造謠騷擾、惡意修圖、隱私泄露……有網(wǎng)友直言：“以前覺得公眾人物才會被網(wǎng)暴，現(xiàn)在發(fā)現(xiàn)，網(wǎng)暴離普通人的生活也并不遠?！?/p>

林怡告訴記者，作為自媒體博主，自己已不止一次與網(wǎng)暴“交手”，因此會主動調(diào)適心態(tài)，“堅定認可自己的價值，不把別人的攻擊往心里去，甚至拿他們罵我的詞開玩笑”。

但她也承認：面對網(wǎng)絡(luò)上洶涌而來、海嘯般呈指數(shù)級放大的惡意，不是每個人都能做好準備。有人不堪其擾，產(chǎn)生自我懷疑，陷入抑郁、崩潰等負面情緒；有人甚至采取極端行為，釀成無可挽回的悲劇。

伴隨互聯(lián)網(wǎng)的普及，網(wǎng)絡(luò)暴力為何變得更普遍、更隱蔽、更有破壞性？

在清華大學法學院教授勞東燕看來，網(wǎng)絡(luò)暴力的生成，與互聯(lián)網(wǎng)平臺的技術(shù)密切相關(guān)。隨著互聯(lián)網(wǎng)成為日常生活的一部分，私人問題更容易被公共化；而網(wǎng)絡(luò)的匿名運作機制，讓很多人將現(xiàn)實中的不滿與怨忿，宣泄到虛擬空間。

平臺的商業(yè)屬性以及推薦機制，可能也會為網(wǎng)絡(luò)暴力“推波助瀾”。

林怡告訴記者：“網(wǎng)暴最猛烈的那幾天，平臺上出現(xiàn)一個熱搜，把我的網(wǎng)名和學校放在了一起，這讓很多人覺得我蹭學校熱度，罵得更兇了。但其實我?guī)缀鯊牟辉谫~號里做有關(guān)學校的內(nèi)容?！倍斔l(fā)視頻澄清，希望讓網(wǎng)友看到事情全貌，內(nèi)容卻因為沒有“爆點”而反響平平。

對此，有專家指出，由于網(wǎng)絡(luò)暴力內(nèi)容多產(chǎn)生于社交媒體，平臺作為內(nèi)容監(jiān)管方和流量控制方，理應承擔起防止風險擴散的責任。平臺可以憑借其技術(shù)能力與資源優(yōu)勢，進一步壓實防范網(wǎng)絡(luò)暴力的主體責任。

建立健全預警機制精準防范

減少網(wǎng)暴發(fā)生，平臺究竟怎么做？作為抖音“反網(wǎng)暴項目組”的成員，子豪（化名）和同事們已為這個問題探索了三年。他們找到的答案，就包括建立健全事前預警機制，將網(wǎng)暴“扼殺在萌芽狀態(tài)”。

“我的日常工作之一，就是對系統(tǒng)篩選出的信息進行人工判斷，評估是否有發(fā)展成網(wǎng)暴的風險，然后進行保護和干預?！弊雍老蛴浾呓榻B。

據(jù)項目組統(tǒng)計，2024年，抖音平臺共攔截涉網(wǎng)暴信息1.7億條，回查清理違規(guī)信息200萬條。累計向172萬個“潛在受害者”賬號發(fā)送防暴提醒，向342萬個“潛在施暴者”賬戶發(fā)出理性發(fā)言提醒。

“平臺承擔事前預防預警責任，對網(wǎng)絡(luò)環(huán)境的凈化意義重大。”泰和泰律師事務(wù)所高級合伙人廖懷學告訴記者，“這不僅能保護用戶的合法權(quán)益，還能維護平臺健康的生態(tài)環(huán)境，防止因網(wǎng)絡(luò)暴力事件頻發(fā)導致用戶流失?！?/p>

不只是抖音。記者向幾家頭部平臺的網(wǎng)暴治理專項負責人了解發(fā)現(xiàn)：結(jié)合大數(shù)據(jù)分析與人工審核，事前識別并干預暴力言論，已成為平臺抵制網(wǎng)暴的“標配”。

以微博為例，在“機器+人工”的多維度線索發(fā)現(xiàn)機制下，平臺通過用戶投訴、多條評論命中人身攻擊、不友善模型預警等多重機制，對海量信息進行篩選分析，再輔以人工主動巡查、業(yè)務(wù)方線索互通等舉措。對于存疑或爭議內(nèi)容，微博則會采取降低內(nèi)容曝光率、限制內(nèi)容展示范圍等弱處置手段，避免引起次生輿情。

然而，伴隨互聯(lián)網(wǎng)技術(shù)發(fā)展，新型網(wǎng)暴手段層出不窮，精準識別并有效干預網(wǎng)絡(luò)暴力行為，并非一件易事。

子豪發(fā)現(xiàn)：伴隨網(wǎng)暴形式不斷變化，網(wǎng)暴與非網(wǎng)暴的界限不再清晰。比如陰陽怪氣或玩梗，有人覺得是開玩笑，但有人真真切切地受到了傷害；還有些隱晦的“罵人黑話”，如用相同首字母的字替換原詞，“圈外人”一時難以分辨，且施暴者的“舉一反三”往往比系統(tǒng)屏蔽更快一步。

“我們只能根據(jù)行業(yè)共識和團隊不斷摸索的經(jīng)驗來判斷。”子豪告訴記者，“包括看評論數(shù)的量級，看這些謾罵的言論是不是都指向個人，還有言論的過激程度，受害者有沒有主動舉報，以及考慮用戶是否屬于特殊群體。”

網(wǎng)暴越來越隱蔽，平臺如何進一步精準防范？

廖懷學律師指出，升級技術(shù)工具是答案。“判斷抹黑造謠虛假信息時，平臺可以利用數(shù)字水印追蹤溯源；在鎖定施暴者時，可以建立多維度賬號行為模型，綜合登錄時間、IP地址、發(fā)言頻率等異常分析，對高頻負面詞匯、異常情緒言論監(jiān)測預警?！?/p>

提供“全鏈條”關(guān)懷保護

除了建立健全事前預警機制，要強化對網(wǎng)暴的“全鏈條”管控治理，事中干預處置、事后關(guān)懷保護，也是平臺的重要責任。

“如果有用戶遭遇嚴重網(wǎng)暴，我們會代表抖音給用戶進行電話外呼。”子豪向記者介紹，“有的用戶需要協(xié)助開啟‘一鍵防網(wǎng)暴’等功能減少傷害，還有用戶只是希望有人傾聽他們的聲音，獲得精神上的安慰。”

通過電話外呼，子豪曾給一位因鄰里糾紛而遭網(wǎng)暴的老人提供過幫助。對方向他倒了一肚子的苦水，說最近自己睡覺睡不好，去公安局報警也未能立案。了解到老人不熟悉手機操作，子豪在電話里手把手教她開啟“陌生人不可以評論”“陌生人不可以私信”“互相關(guān)注的人可見”“批量舉報”……

包括抖音在內(nèi)，記者發(fā)現(xiàn)，多個平臺已上線“防網(wǎng)暴專區(qū)”，為那些感到自己遭受網(wǎng)暴的用戶提供幫助。

以小紅書為例，只要搜索“網(wǎng)暴”相關(guān)內(nèi)容，平臺自研的防網(wǎng)暴工具“小紅盾”便出現(xiàn)在醒目位置，引導用戶開啟一鍵防護，進行線索上報，以及撥打平臺和北京師范大學合作的24小時“紅薯地熱線”，獲取專業(yè)法律、心理咨詢服務(wù)。

各平臺還推出支持批量取證舉報、分級處罰違規(guī)賬號、完善實名認證體系以便利侵權(quán)人信息查詢等舉措，為用戶遭遇網(wǎng)暴后的維權(quán)減少阻礙。

平臺紛紛出手，背后是法規(guī)“劃好了重點”。《網(wǎng)絡(luò)暴力信息治理規(guī)定》特別設(shè)立了“保護機制”專章，要求平臺通過告知可采取的防護措施、提供網(wǎng)暴信息快捷取證功能、及時防止信息擴散等手段，保護遭受網(wǎng)暴信息侵害用戶的合法權(quán)益，尤其是未成年人、老年人、殘疾人等特殊群體。

中國社會科學院大學互聯(lián)網(wǎng)法治研究中心主任劉曉春留意到這一亮點，她指出：“重視為潛在受害人提供自我保護和救濟的工具，這一舉措是我國網(wǎng)絡(luò)暴力信息治理實踐中非常鮮明的創(chuàng)新實踐?！?/p>

除此之外，想從根源上終結(jié)網(wǎng)暴，平臺的用戶教育也不可或缺。

在抖音相關(guān)詞搜索結(jié)果界面，用戶被邀請加入反網(wǎng)暴倡議，承諾“尊重差異、善意假設(shè)、友善表達”，并向其他用戶展示自己的加入。自2023年7月上線以來，已有超過242萬人加入該倡議。

2024年巴黎奧運開幕前，為預防因賽事、運動員等引發(fā)的網(wǎng)暴，抖音還通過倡議提醒和動畫短片的形式，號召大家理性觀賽；2024年8月，抖音上線全國首個反網(wǎng)暴微短劇《回旋鏢》，倡導公眾在網(wǎng)絡(luò)社區(qū)表達積極情感，理性發(fā)聲。

“我們敲下的每句話，都可能是飛向自己的回旋鏢?！倍虅∠?，有網(wǎng)友這樣留言，“善語結(jié)善緣，我們的聲音可以改變世界。”

(來源："網(wǎng)信浙江”)

(鏈接：https://mp.weixin.qq.com/s/2IZAoBfUSLTjMoqmxDW9JA）