1994年夏天，南非东北部约翰内斯堡的Kevin middot凯文·卡特把自己关在车里，用尾气结束了自己的生命。

卡特是南非的一名摄影师。自杀前一年，他拍摄了一部作品《饥饿的苏丹》，次年，他获得了普利策故事片摄影奖。在这张照片中，一个苏丹女孩即将因饥饿而倒地，而一只秃鹫就在女孩身后不远处，等待着她去捕猎。

获奖后，该作品在美国遭遇巨大争议，引发舆论风暴。批判的声音说，他是站在小女孩的身上领奖的。

这是上世纪一场大规模媒体暴力引发的人间悲剧。现在，我们都或多或少地意识到，当前的网络社交媒体舆论场也处于日益碎片化的局面。

每当有新的热点事件出现，就会形成两种极端的观点。两党的明确立场会脱离事件和问题本身的讨论，各自阵营都有非常强烈和焦虑的情绪，并在不断发酵和蔓延。

随着互联网尤其是移动互联网日益成为社会中信息生产和传播的场所，语言暴力也从线下转移到了线上，形成了人人痛恨的网络暴力。

网络暴力不再局限于社会上的负面事件。已经延伸到，热点事件，重大事件，名人，焦点人物等。

网络暴力从何而来？有什么特点？我们如何定义「言论自由的批判」和「网络语言的暴力」？我们应该遵循什么样的法律规范和道德标准？

面对这样一个社会背景深刻、处理难度复杂的重大问题，作为平台方的互联网科技公司在处理网络暴力时面临哪些困难，应该承担哪些责任？

1。治理网络暴力就像面对一个弹坑

“预防和控制网络风暴就像靠近一个即将喷发或正在喷发的火山口。一不小心就会被熔融的泥浆吞噬，变成火山灰。”一位头部社交平台安全产品经理告诉钛媒体APP。

在应对网络暴力时，就像火山爆发一样。主动靠近它的火山口，帮助受伤的人，告诉火山你要冷静理智。稍有不慎，就会被网吹成“火山灰”。

目前，网络暴力几乎与每一个社会热点事件都密切相关。但是，在灾难和悲剧事件中，人们很容易产生同情心。这些同情和怜悯会转化为对一方责任缺失的不满和质疑，甚至转化为网络暴力。

比如之前的“唐山事件”，某平台向钛媒体APP披露了一组数据。事件中嫌疑人9人，但各平台流传的嫌疑肇事者短视频ID超过200，12小时内平台爆发评论近300万。

这里肯定有被误伤的用户。甚至当时还有人开玩笑说，当地30岁到40岁之间的壮汉和半裸男子的短视频账号会被翻出嫌疑。

有时候，有些网络暴力是无缘无故的。

某负责内容治理的平台运营告诉钛媒体APP，一些爆发和参与网络暴力的用户的心态是:

“五块钱可以买200条评论，还可以骂人泄愤”；

“几KB的骂人流量多少钱”；

“每天晚上睡觉前，拿出手机，几分钟，挨个骂被推的女生照片，然后关手机睡觉”...

这背后揭示的是，在开放的网络生态中，无论是时间成本还是经济成本，发动网络暴力的成本都是如此之低。这导致网络暴力很容易被触发。一旦发生，其在施暴者中的传播速度和聚焦受害者的速度都是惊人的。

从引发到发酵的过程是迅速而剧烈的。其中，很大一部分原因是情绪被“煽动”后迅速获得其他用户的共情，进而传播。

此时，在事件中，呼吁理性客观思考的人往往容易出现“二次网络暴力”。在大量负面宣泄的掩盖下，准确理性的信息很容易被忽视，于是网络暴力的发酵形成了一个负面循环。

随着互联网产品的多样性和连接性，网络暴力越来越多地出现在多个平台上，并相互流动。A平台引发的网络风暴可能很快就会出现在B、C、D平台上..很少有另一个网络暴力事件会在一个平台上独立出现。

网络暴力开始在多个平台上流传，但不同平台的侧重点不同，这是网络暴力的又一个新标志——开始从针对当事人的网络语言暴力蔓延到身边的人和事。

比如唐山事件，钛媒体APP观察到嫌疑人所穿的某品牌服装在电商平台评论区遭到网络暴力攻击。甚至，该品牌的一位女主播在直播间卖货时看到汹涌而来的负面评论，当场泪流满面。

2。被动“从众”:情绪和言语在放大和汇聚

从发酵到回归，国家互联网信息办公室顾问、中国传媒大学教授王四新教授发现，网络暴力有七个关键节点:

或者网民闹事的潜伏期，“道德审判”与攻击，“道德审判与规避”攻击的传播与爆发，极端事件的发生，第三方(主流媒体/网络平台)的介入，各方的谴责，当事人或相关方的回应。

王四新长期关注互联网治理领域的政策法律问题，参与了《网络安全法》、《互联网信息内容生态治理条例》等法律法规和部门规章，以及大量互联网治理相关规范性文件的立法论证和解释工作。

王四新告诉钛媒体APP，网络暴力的形成期大多是在舆论的发酵、形成、兴起、二次转化之后。

这是网络暴力中的暴力路线，它预示着一个信息和符号传播，演变为价值和道德判断，演变为暴力的过程。

之所以现在网络暴力越来越严重，王四新认为很大一个原因是网络暴力的原因是主观操纵:

首先，网络的隐形性“造就”了网络暴力的单向性。

施暴者可以隐藏真实身份，逃避法律制裁。网络弱化了网民对自身身份的认知，降低了说话者和传播者的责任感。肇事者有话语权，“群起而攻之”通常是对当事人的“单方面碾压”。

其次，不断引导重点客户赚取流量。

媒体类型的多元化发展，使得个别媒体经常使用震撼性的头条，有争议的内容吸引流量，构成了事件的转折点。推高流量，而不是真相，作为出发点，给网络暴力添一把柴。

再次，网民复杂，容易失去理性思考。

网民数量庞大，使得网络环境更加复杂，网民对同样的信息会有不同的反应。网民素养参差不齐，被信息洪流席卷而反复跳转，极有可能成为网络暴力的帮手。

个人很容易在大多数人的冲击下陷入所谓的“主流”观点。失去理性思考后，很容易做出言语暴力。

网络暴力一旦传播，就有了被动的“从众”。

一方面，个体容易陷入沉默和趋同。当偏离网络暴力群体价值观的意见发出并受到攻击时，为了避免成为众矢之的，或放弃表达，或加入群体，网络暴力的声音就会在不断排除异己的过程中壮大并激起舆论。在更多的舆论条件下，是收敛行为。

另一方面，集体化倾向于放大极端情绪。行凶者群起而攻之后，网民承受着双重压力。外部压力让世界只有一个声音，内部压力让个体和集体发扬光大，群体给个体壮胆，或者说群体内的个体迫于内部压力产生对群体的服从。

3.名人逃不掉:一种流量红利。

通常我们认为在网络暴力中，公众遇到网络暴力会对普通人产生同情心，认为这是一场无辜的灾难。

至于公众人物，很多人也会认为这可能是幕后的“炒作”，或者是他“刚好”流了这碗饭。事件中他属于赢麻一方，不值得同情。

事实上，无论是业余爱好者还是名人，都无法摆脱“网络暴力”的鞭笞。

今年因为舆论压力，杰克森·易主动放弃成立国家剧院，就是一个比较典型的案例。

当时有一种观点认为，著名艺术家加盟国家话剧院，比如杰克森·易，他的头牌艺术家在编制上的成功，背后一定有张深这个难以捉摸的“大网”，他一定是“资本”挑选的“王子”。他背后的资源，展现的是普通人一辈子都达不到、无法突破的阶级枷锁。

之后通过一些未经证实或者难以证实的文章和截图，很多人越来越坚信“这绝对不简单”。

最终，杰克森·易以“投降”舆论的态度试图平息事件。

这种行为给另一个群体造成了极大的焦虑:如果仔细考虑杰克森·易的专业水平，以及他在娱乐圈多年的努力和成就，他将有资格成为国家剧院的“演员”，不说绰绰有余，至少他是合格的。为什么会有这样的结局？

至于退赛事件本身，也是纷争不断，其中的来龙去脉，是非曲折，各有说辞，互不相让。

或许真相很难说，但不可否认的是出现了一个现象:面对舆论的漩涡，心理素质和一个头部艺人一样强大，难以自觉，极度不安。

正如他当时在微博中回应的:

“事情发展的方向和范围真的超出了我能解释清楚的范围.....杂乱无章的流言蜚语已经逐渐让‘杰克森·易’看起来模糊不清，失去了它最基本的‘人的样子’。无论作为公众人物还是个人，这种‘扭曲’都让我感到极大的不安。......必须承认，各种与我的家庭有关的违背科学的谣言，让我感到了从未有过的荒谬和恐惧，但我心里清楚，拼凑起来的‘杰克森·易’不是过去的我和现在的我，也不是未来的我。”

大众享受名气和流量带来的好处。我们应该接受所有这些负面影响吗？

对此，某平台生态运营负责人对钛媒体APP表示，批判和网络暴力需要做非常明确的区分。

批评和谩骂是两回事。如果上升到谩骂，属于人身攻击。无论明星还是普通人，对攻击性言论都不是很能接受。“合理的批评是可以的，但要对批评进行筛选，看是否带有极端情绪，是否大量出现，是否有人跟风。”

某头部短视频产品平台管理负责人告诉钛媒体APP，暴力就是暴力。对于网络暴力，大家的容忍度确实有些主观。有的人比较宽容，有的人比较软弱。但正因为他能力更强，就应该承受更多的暴力。

但同时他也承认，在平台治理的时候确实很难区分两个群体，或许明星可能更容易吸引人的评论。

4。治理的困难:“网络暴力”和“非网络暴力”之间的界限模糊不清

法律、标准、协调、能力的缺失，导致中国治理网络暴力困难重重。

王四新认为，目前行业内缺乏相关法律法规，立法层面还有些空白。还有标准上的缺陷，行业处置标准不统一，各平台尺度不一，处置缺乏一定依据常被投诉，难以区分和准确处置。

现在网络暴力从线上蔓延到线下，需要网络执法部门配合当地执法部门执法，相关制度和协调策略不完善。然而，网络暴力治理的过程既涉及公共数据，也涉及私人数据，因此很难主动监测和分析受害者的私人信息。

从实践层面来看，网络暴力的一大特点是，短时间内，激烈的情绪迅速发酵，暴力的语言瞬间聚焦并倾泻到单一目标身上。

无论是当事人还是理性的旁观者，都希望这些内容能够得到快速处理。

某平台网络暴力治理项目负责人告诉钛媒体APP，区分用户发来的内容是合理的批评还是不合理的网络暴力，如何准确处理不同类型的网络暴力及其背后的账号，都需要花费大量的人力、物力和时间。

于是，治理网络暴力的第一个难点就出现了——很难平衡“快”和“准”。

治理困难的另一个关键是，“网络暴力”和“非网络暴力”有时很难严格区分。

以“唐山事件”为例。事发12小时内，某平台上关于此事的评论近300万条。如果这些评论都依靠机器审核，我们可以分析其中200万左右是否违反法律法规和平台规则。

但是，有两种内容是机器难以审核的:

一是利用同音字、缩写发布挑衅性、讽刺性言论或p图；

第二，批评与网络暴力之间的内容。这就需要机器随着网络语言的变化不断“学习”。

一位产品经理告诉钛媒体APP，同一句话背后的意思在不同的情况下真的很难区分。同样的负面或不满的话，一个人在日常生活中随便说出来，和人生气时说出来的效果是不一样的。

而且因为评论者和观众的关系不同，同样一句话也会产生不同的影响。比如父母或恋人之间，一些亲密的用语或评论，与亲密社交圈之外的辱骂性语言完全不同。

不同的角色对激烈的语言有不同的感受。网络暴力与非网络暴力的界限模糊，难以统一和区分，取决于受害者的主观感受。而同一个问题的语言、数量、密度的不同，也会造成是否会成为网络暴力的区分标准。

另一种情况是，一些用户在评论区收到一条评论，“你自找的。”对方可能觉得这只是一些偏激的话。但是这句话类似的话，如果短短一个小时收到1000多条评论，就有可能变成网络暴力。

这就让平台陷入了一个两难的境地:如果你要开始保护用户，是应该在他收到第一条，第1000条，还是第500条的时候采取行动阻止？似乎很难制定一个明确的数字标准。

对于当下的热点事件，除了真假难辨的信息之外，外界的信息也在不断的反转和颠倒，网民的情绪也一直在不断的变化，网络暴力的焦点和对象也会不断的转移。

有些网络暴力是因为真相“姗姗来迟”造成的。在很多热点事件中，旁观者很容易被片面的信息误导、过度解读或曲解，导致在没有充分了解事实的情况下发生言语暴力。

5.可行方案:实现“法有责众”

即使问题很多，互联网平台的出现还是提供了一个难得的公众讨论的空间空。舆论在一定程度上可以倒逼政务、司法和舆论的良性互动。

但也要看到，国内互联网快速发展的反面，是网络平台的治理和管控滞后。从最早的BBS时代，到图文社交媒体时代，再到现在的短视频、直播，网络暴力始终如一。

在中国政法大学传播法研究中心副主任朱伟看来，网络暴力是网络社会生态中严重侵害他人合法权益的行为。根据网络暴力的严重程度、性质和影响范围，网络暴力涉及侵犯人身权利、侵犯公民个人信息、挑衅、诽谤等多个方面。

网络表达不应该没有边界。如果越界，就是侵权，可能要承担法律责任。法律规定和他人的合法权利是重要的界限。

在判断言论自由的边界问题时，不仅要考虑话题是否涉及公共利益，还要考虑表达的内容是否真实可信，是否存在主观恶意贬损，发布信息时是否尽到合理的审核义务。

从网络治理的实践来看，如何满足公众的知情权和监督权，保护个人的个人信息权？

朱伟告诉钛媒体APP，至少要做到以下几点:

一是应依法确定个人信息发布者的主体权限，如自行公开、司法公开、政府部门依职权公开的信息等。这些个人信息的公开属于法律公开的范围。

第二，要遵循比例原则，比如防疫信息的公开。行踪轨迹属于必要信息，但当事人的身份证号和姓名不属于必要范围。如果超出了公开的范围，也应该承担法律责任。

三是平台设置投诉渠道，配合当事人根据当事人要求行使删除、更正、查询相关个人信息的权利。

该平台在预防和控制网络暴力方面发挥着关键作用。

根据《互联网内容生态治理条例》第六条第十款，“侮辱或者诽谤他人，侵害他人名誉、隐私和其他合法权益的”属于违法信息。

处理此类信息，平台需要根据《民法典》规定的“通知删除”规则对违法信息进行定性处理，以减少响应周期，提高采取措施的效率。

在主体责任方面，应鼓励平台制定技术和体制措施，以避免此类情况。

技术措施是指在热搜、榜单、推荐等领域。，不能仅仅依靠流量和热度作为砝码，配合人工干预系统的建立，从技术上完善对可能出现的网络暴力的预警机制，做到提前干预和预防。

在制度措施上，鼓励建立面向社会的举报渠道、投诉渠道和维权渠道。对待热点事件当事人、未成年人、涉及公共利益的事件，开启特殊保护制度。

我们应该意识到，网络暴力是一种非常严重的侵权行为，它还可能构成包括寻衅滋事、诽谤、损害名誉、侵犯公民个人信息、非法经营等在内的行政或刑事责任。

在法律面前，线上和线下都受到同样的法律规制，行为人应根据情节轻重承担包括民事、行政、刑事在内的法律责任。

网络暴力的预防和制止离不开平台、网民、行业协会、司法系统等各方的协调。只有形成合力，才能真正杜绝愈演愈烈的网络暴力。

在网络暴力的形成过程中，网民可能是受害者，也可能是侵权者。但是，网络暴力中所谓的“法不责众”是错误的。

治理网络暴力，就是要做到“法无责众”。世界既不是人们发泄情绪的垃圾场，也不是没有责任的法外之地。以往对网络暴力的处理往往是事后处理，但往往亡羊补牢，为时已晚。网络暴力对当事人造成的伤害是巨大的。

行业协会等自律组织应加强法制宣传，提高包括网民、意见领袖、MCN在内的网络传播素养。让网民学会法律，懂得运用法律，懂得保护自己的合法权益，防范网络暴力。

在法律还是空白的时候，互联网公司也需要承担应有的责任。网络暴力乃至网络治理的问题，从来都不是一方能够解决的问题。需要的是全社会的共同关注和协调。

(作者|李程程)