网络暴力黑产化，个人和社交平台如何守住防线？
2月17日，中央网信办更新了一篇来自半月谈的文章，称“ 新型网络暴力形成一门黑产生意”。弹幕刷屏、视觉冲击、恶意剪辑、恶意“锤人”、词条侮辱、私信轰炸， 网络暴力的形式不断扩充。
当下多数网民对网络暴力应该都不陌生，本届冬奥会期间，网络上也出现过 针对 部分 运动员及教练员 的语言暴力现象； 而就在 1个 月 前， 在对 寻亲男 孩刘学洲去世 事件 的诸多讨论中，反思和抵制 网络暴力 也成为一大 焦点；此外， 新冠大流行背景下，对少数确诊者的网络暴力依然存在，普通人如果感染，不仅要面对病毒，还可能有“社死”风险。
网络暴力由来已久，十几年前，互联网还没有像今天这样普及和渗入日常生活的时候，“警惕网暴蝴蝶效应”就已经是公共讨论中常呼吁的口号。
不过，现实的情况是，上网人数增加、技术进步、网络生活不断丰富的同时，网络暴力也逐渐黑产化。《中国青年报》2021年针对全国2397名高校大学生的调查显示，超过7成的受访者自认受到过网络暴力影响。[1]
本期全媒派（ID：quanmeipai）将从网络暴力的演变出发，尝试厘清网络暴力的概念，提供几种辨别网络暴力的角度，并梳理位于风暴中心的社交媒体当前的应对手段。
网络暴力的形成与频发
从偶尔喷涌到社交痼疾
就社会交往中的信息传播暴力来说，这是一个人类社会自形成以来就如影随形的问题，而加上“网络”，进入线上交往的语境，暴力似乎更加多发。
网络暴力从何而来？在知网中搜索发现，关于网络暴力的研究发端于1999年，在2006年开始呈显著上升态势，并在近些年被持续讨论。有学者研究表示，网络暴力真正触及社会舆论的兴奋点，也始于2006年。[2]
以“网络暴力”为主题的研究文章在2006年到2010年间快速增加，此后保持稳定，从2018年开始又有明显上升，超过150篇。图片来源：知网
回顾过去十几年间的热门网络暴力话题，无论是现实生活中还是虚构作品里，案例都比较多了。
例如，2006年，名为“锋刃透骨寒”的游戏玩家在猫扑论坛发帖，称自己妻子与一个名为“铜须”的人发生外遇，引起众多网友声讨，“铜须”遭到人肉搜索，相关照片、工作单位、学校、姓名等详细资料被公开。
再例如，2012年，陈凯歌导演的电影《搜索》中，刚查出癌症的女主叶蓝秋，因为拒绝在公交车上给老人让座，被偷拍上电视新闻，引发网络谩骂潮，最终自杀。
真实事件和影视作品都记录下了早些年网络暴力事件的典型特征：偶发的，多由社会事件引起，暴力以大规模网民参与的人肉搜索以及随之而来恐吓、骚扰为主要表现方式，常酿成悲剧后果。
时间拉到今天，移动互联网快速普及，上网渠道空间日益丰富，多重因素作用下，网络暴力不再是偶发的洪流，而是成为了不安定的网络痼疾。
这个过程中，网络暴力的滋生也从社会扩散到娱乐、文化等多个领域，遭受暴力的主体亦扩大到新闻当事人和公众人物等。
社交媒体的特殊性
从传播渠道和模式的变化来看，网络暴力常态化的10多年间，社交媒体、个性推荐平台取代了传统门户网站、搜索引擎成为主要的传播渠道， 社交化的信息传播，成为了网络暴力的助燃剂。
在社交媒体中，个人存在的表现是账号ID、头像，虚拟的展示削弱了对真实性的感知，心理压力减小，人们更可能说出、做出现实中不会选择的暴力举措。同时，线上以简单、碎片符号为信息的传播也让交流歧义丛生，容易滋生矛盾。
更重要的，在于社交媒体参与机制本身。
第一，公共空间互动的转发、点赞与评论，都青睐更情绪化的内容。纽约大学的研究者William Brady发现，在Twitter上，如果一条推文用了情绪化的、道德评价的语言，那么每一个情绪化的、道德评价的词都会让这条推文获得的转发数增长20%。[3]
第二，在广告为主的商业利益驱动下，社交媒体的内容推送以最大化流量为导向，而带来流量的，正是能够促使更多人更大程度投入的情绪内容。
第三，网络日益成为生活不可或缺的部分，通过话题、群聊、小组等形式，越来越多人在网络上成块成块地聚集，并发生意见的同化与撕扯。于是，个体的 网络暴力行为越来越容易煽动起群体性的推波助澜，导致负面传播行为的频发与难以遏制。
个人如何辨别网络暴力？
当下，越来越多专业人士和机构呼吁，对待网络暴力需要有更严格的处理手段。
而作为一个与每个人都相关的现实问题，网络暴力的特殊之处还在于，当提及它时，人们通常会持谴责态度；但在很多具体情境中，人们可能被情绪裹挟。无论是参与网暴，还是被网暴，有些人常常是无意识、不自知的。
因此，我们或许可以讨论一个新的问题：如何辨别网络暴力？
作为一个概念，网络暴力涉及法律、心理、传播等多学科领域，没有严格定义。根据对网络霸凌有深入研究的加拿大学者Bill Belsey的定义，网络暴力是“一种涉及对信息及通信技术的应用，以支援针对个人或群体进行恶意的、重复的、敌意的行为，以使其他人受到伤害”。[4]
经典的学术研究中，学者将其界定为“网络技术风险与网下社会风险经由网络行为主体的交互行动而发生交叠，继而可能致使当事人的名誉权、隐私权等人格权益受损的一系列网络失范行为”。[5]
根据联合国儿童基金会的定义，网络欺凌（cyberbullying）是利用数字技术进行的欺凌，是一种反复的行为，目的是恐吓、激怒或羞辱那些被瞄准的人。[6]
在诸多界定中，“恶意”“反复”“伤害他人”“匿名”“公开当事人信息”是网暴比较典型的特点。由此出发，可以思考如何加深对网络暴力的认识和辨别。
首先，暴力与正义常常被混为一谈。很多事件中，出于“合理质询”和“主持公道”的心理，人常常成为隐私侵犯者和暴力实施者。[7]
开放的网络环境本不该拒绝理性的批驳，但问题是，即便当事人行为本身存在道德问题，甚至涉及违法，其是否又应当承受以没顶之势涌现的赛博暴力？在刘学州去世之后，部分声音在反思网络暴力的同时，是对其父母、个别媒体的强烈谩骂，新的暴力又产生了。
很多时候，网络暴力是带着正义的面具走向极端的。
热剧《三十而已》播出期间“林有有”扮演者被骂，一些站在道德高地对“小三”“绿茶”进行批判的网友反而成了网暴实施者。图片来源：微博
其次，在每天都有海量数据上传的社交媒体中，某些个体会觉得“我的声音无足轻重”，在恶果酿成后也容易“放过”自己。于是，暴力不断反复、叠加，形成强大的、难以估量的群体声音，而面对这些，被施暴的个体又是极其脆弱的。
再者，在强目的性和利益驱动下，网络暴力也成了“生意”，衍生出灰色产业链。寻找目标、人肉搜索、制作侮辱性文案视频和弹幕、用机器人账号推送控评……产业化的暴力也给我们提了醒：在网络中，信息环境可能是受污染的，你以为的“正义同盟”亦可能是别有用心。
最后，上述提到的观点都在提醒我们审视自己，莫成为“施暴者”，而反过来，也要拥有鉴别自己是否遭受网络暴力的能力。
除了侮辱谩骂、人肉、骚扰、恐吓等表现外，一些边界模糊的行为也需要仔细审视。
例如，在网络中，有时很难判断某人是开玩笑还是想伤害你（尤其是非陌生人之间），有时对方会一笑而过，但如果你感到受伤，或者认为别人在嘲笑，那这个玩笑就过火了。如果在要求对方停止后，行为还在继续，而你仍然感到不安，那这可能就是网络暴力。
学会鉴别网络暴力，归根结底，是在提醒每一个人，在这一现象已经相对高发的当下，我们都是潜在的“施暴者”与“被施暴者”。而在所有可能的解决途径中，至少可以学着控制自己和保护自己。
平台如何应对网络暴力？
当然，在任何时候，即便认识到何为网络暴力，仅靠个体的力量也很难承受暴力的恶性伤害。已有的讨论大多聚焦在法律、家庭、个人等层面，而作为网络暴力的载体之一——社交媒体平台，也应该主动发挥更多作用。
目前，针对网络暴力，不少平台已经有了不同的举措，在此进行简单归纳与说明。
1、防网暴相关指南与规则：
许多平台会出台专门的预防网络暴力指南，通常包括如何识别、预防和应对网络暴力。例如，Twitter对“暴力威胁”进行了细化——要求用户不能表现对特定的人或群体施加暴力的意图，包括“我会”“我要去”或“我计划去”，以及“如果你做xx，我就会做xx”这样的语句。
很多平台也都在相关指南中强调了对青少年的保护。TikTok对16岁以下用户，有默认为私有账户、无法使用私信功能等设置。Instagram则设有“家长指引”（Parent's Guide），为父母、监护人和值得信任的成年人提供建议。
Instagram设有专门的“家长指引”。图片来源：Instagram
2、不当消息提示与过滤：
平台会主动检测暴力内容，在发布前进行提示和过滤。比如，Instagram上经由AI标记，潜在冒犯或意图骚扰他人的评论将被“隐藏冒犯性评论”过滤器过滤，这属于默认设置。同时，当发布的内容被检测到有潜在冒犯性时，用户会收到提示，要求其重新编辑。
3、帮助用户设置更高的评论门槛：
在个人隐私上，一些平台会给予用户在时间、对象等不同维度的控制权。比如，微博可以在时间上设置仅半年可见，关注7天、100天可评论。
图片来源：微博
抖音可开启“私密账号”功能，只有经过授权才能关注及查看用户的视频，还可选择“仅好友”发送私信，或直接关闭私信；快手也有“禁止陌生人评论”“禁止陌生人私信”等类似功能。
较特殊的有Instagram的Restrict功能，支持用户隐藏特定对象的留言及相关通知，能帮助用户在保护自己账号的同时，持续关注特定用户的霸凌行为。
图片来源：Instagram
4、发布新控件（过滤、隔离相关内容）：
在特殊时候，支持用户以更高效的方式远离暴力。如，微博曾宣布拟上线两个功能：一键开启“防暴模式”，开启后用户能够在可选时间内，隔离未关注人的评论和私信攻击，当用户收到大量非正常评论时，将弹窗提示用户是否开启隐私防护功能。2021年，Twitter就小范围测试过“安全模式”功能， 激活新安全模式的用户，不会看到标记为可能包含仇恨言论或侮辱的信息。
5、举报投诉暴力行为：
多数社交媒体都设有专门投诉举报渠道，可对暴力行为进行反馈。在Facebook或Instagram上，用户可以随时通过帖子、评论或story向团队发送报告，且是匿名的；Twitter也鼓励用户举报可能违反规定的账号。
投诉也可用于帮助其他用户免受暴力侵扰。在TikTok中，如果认为自己的朋友受到欺凌或骚扰，可以通过保密报告的方式保护朋友安全。
6、禁言、删除言论或账号：
一方面，用户自己可以永久删除或拉黑特定账号；另一方面，平台会根据自己的社区准则，定期处理违反规定的暴力内容和账号。例如，在刘学州事件后，微博先后发布多条公告，对泄露当事人隐私、挑动矛盾纠纷的内容、账号进行排查清理；“抖音安全中心”也清理了数万条网暴信息，禁言或封禁帐号两千多个。
微博对部分用户的处置方式。图片来源：微博@微博管理员
7、完善报告网暴事件的程序：
平台也会结合相关政策的要求，对网暴进行集中整治，完善程序。例如，在上个月，针对人肉搜索、曝光隐私、欺辱谩骂等不良内容，抖音宣布成立网络暴力专项治理团队，重点整治借疫情、社会热点事件等挑动网民对立、进行人肉搜索、辱骂攻击等网络暴力行为。
可以看到，目前平台已有的，更多是干预性的应对措施，而在事件曝光、升级以及平息阶段，还有日常的社交互动中，可以做的还有很多，也应该更多。
平台的应对不仅在于隐私保护、暴力信息屏蔽、非法账号处理等内容生态方面，也在于从改进算法推送机制、反对唯流量论等方面入手，平衡商业竞争与社会责任的整体关系。
在更大范围上，也期待平台以及政府有关部门、学校、家庭、企业等多元主体，将网络暴力置于更长期、更重要的待解决位置上，毕竟，它早就与每个人息息相关，也正在深刻影响当下和未来的网络生活。
参考链接：
[1]https://zqb.cyol.com/html/2021-10/11/nw.D110000zgqnb_20211011_1-08.htm
[2][4]姜方炳.“网络暴力”:概念、根源及其应对——基于风险社会的分析视角[J].浙江学刊,2011(06):181-187.DOI:10.16235/j.cnki.33-1005/c.2011.06.032.
[3]https://mp.weixin.qq.com/s/FvUpV-wXxObUEPa4_rXyYg
[5]https://zh.wikipedia.org/wiki/%E7%B6%B2%E8%B7%AF%E9%9C%B8%E5%87%8C
[6]https://www.unicef.org/end-violence/how-to-stop-cyberbullying
[7]端传媒：刘学州不能承受之轻：论媒介伦理、网络暴力与中国式法理情 https://theinitium.com/article/20220129-opinion-china-internet-violence/
[8]三联生活周刊：我们只能对网暴束手无策吗？
https://mp.weixin.qq.com/s/JY_4v8uks8WEs5FRV8ty9g
[9]https://help.twitter.com/en/safety-and-security/cyber-bullying-and-online-abuse
[10]https://www.unicef.org.au/blog/unicef-in-action/january-2020/10-things-teens-want-to-know-about-cyberbullying
[11]https://cyberbullying.org/t/social-media
[12]https://www.tiktok.com/safety/en/bullying-prevention/
[13]https://help.twitter.com/en/rules-and-policies/twitter-rules
[14]https://about.instagram.com/blog/announcements/stand-up-against-bullying-with-restrict
[15]https://about.instagram.com/blog/announcements/instagrams-commitment-to-lead-fight-against-online-bullying
[16]https://help.twitter.com/en
本文来自微信公众号 “全媒派”（ID：quanmeipai），作者：yuri，36氪经授权发布。
相关推荐
网络暴力黑产化，个人和社交平台如何守住防线？
调查显示部分女性因网络暴力远离社交平台
“网络黑产”，无处不在的定时炸弹
微信大战黑灰产
隐秘而激烈的反黑产战斗：一个人每天发送100万条垃圾评论
传统银行的马奇诺防线
起底“网络代充”黑产:“产值”巨大 重拳打击势在必行
拼多多协助警方打击网络黑灰产 15人落网冻结800多万
焦点分析｜被150万网络黑产盯上之后，科技巨头要建起新型防火墙
类似于蜘蛛侠，人体第一防线也会“黑化”
网址: 网络暴力黑产化，个人和社交平台如何守住防线？ http://m.xishuta.com/newsview59280.html
