网暴治理新规：平台需建立用户发帖“信用值”体系，提供快捷取证功能
近日，国家网信办等四部门联合公布《网络暴力信息治理规定》（以下简称《规定》），进一步界定网络暴力信息概念，明确“源头防范、防控结合、标本兼治、协同共治”的治理原则，从预防预警、信息和账号处置、保护机制等方面作出细化要求。
受访专家指出，《规定》针对性地回应网络暴力信息治理问题，从监管部门、平台、用户等多方面细化法律法规对相关主体在网络信息治理方面的要求，进一步明确相关的权利义务，建立起事前-事中-事后的全流程治理体系。
事前：界定治理对象，强调预防预警
想要及时、精准地治理网络暴力，首先要解决定义问题。长期以来，网络暴力并不是清晰明确的法律概念，大量灰色的、难以判定的内容如同一座大山，横亘在治理道路中。
《规定》从信息内容层面，将网络暴力信息明确为“通过网络以文本、图像、音频、视频等形式对个人集中发布的，含有侮辱谩骂、造谣诽谤、煽动仇恨、威逼胁迫、侵犯隐私，以及严重影响身心健康的指责嘲讽、贬低歧视等内容的违法和不良信息”。同时将“依法通过网络检举、揭发他人违法犯罪，或者依法实施舆论监督的”情形排除在外。
中国人民大学民商事法律科学研究中心执行主任、法学院教授石佳友表示，相较于去年的征求意见稿，正式稿对于网络暴力信息的定义更精准明确，同时通过排除适用规则保护了合理的网络表达自由。“不应过度泛化网络暴力信息的概念，比如出于善意的网络批评，其目的往往在于维护公共利益或自己的合法权益，应区别于网络暴力。”
在中国政法大学数据法治研究院教授张凌寒看来，这个定义从行为方式出发，规避了信息结合语境呈现出的复杂样态，帮助《规定》起到更准确的规制作用。特别是针对一些不属于造谣诽谤、侮辱谩骂，但却很容易造成受害人精神损伤的“不良信息”——比如说源自他人的动机意图、道德立场这种难以自证的心理态度，或单纯通过主观臆想推测而对他人进行攻击的信息，可以以此纳入到网络暴力信息的治理范畴。
浙江楷立律师事务所合伙人金晓航律师从实践角度指出，目前该定义已经能够差不多完全覆盖不良信息内容，但是对于影响身心健康的界限和标准，对于道德绑架、贬低歧视、恶意揣测等信息的认定标准和范围也应进一步明晰，因为此类行为虽然会带来一定后果，但多数情况下尚未达到民事侵权程度，如何界定仍需完善。
网络暴力一旦发生，将给当事人带来难以修补的伤害，甚至导致“社会性死亡”。为加强源头防范，《规定》对网络暴力信息预防预警提出了明确要求。
根据《规定》，网络信息服务提供者应当在国家网信部门和国务院有关部门指导下细化网络暴力信息分类标准规则，建立健全网络暴力信息特征库和典型案例样本库，加强对网络暴力信息的识别监测。
此外，《规定》要求，网络信息服务提供者建立健全网络暴力信息预警模型，综合事件类别、针对主体、参与人数、信息内容、发布频次、环节场景、举报投诉等因素，及时发现预警网络暴力信息风险。
网络信息服务提供者发现存在网络暴力信息风险的，应当及时回应社会关切，引导用户文明互动、理性表达，并对异常账号及时采取真实身份信息动态核验、弹窗提示、违规警示、限制流量等措施；发现相关信息内容浏览、搜索、评论、举报量显著增长等情形的，还应当及时向有关部门报告。
网络信息服务提供者应当建立健全用户账号信用管理体系，将涉网络暴力信息违法违规情形记入用户信用记录，依法依约降低账号信用等级或者列入黑名单，并据以限制账号功能或者停止提供相关服务。
“根据用户违法违规情形，采用信用评级的方式，并采取相应的处置措施，是比较公平合理的。同时，这也给平台提出了新的管理要求，需要投入不小的时间和人力成本，建议平台可以先从粉丝数较多的大V、头部账号入手。”石佳友说。
事中：强化防护机制，优化投诉程序
在事中阶段，网络暴力信息汹涌而来，互联网平台的防护机制能够帮助当事人快速阻断这些内容。
《规定》要求网络信息服务提供者建立健全网络暴力信息防护功能，提供便利用户设置屏蔽陌生用户或者特定用户、本人发布信息可见范围、禁止转载或者评论本人发布信息等网络暴力信息防护选项。
同时，网络信息服务提供者应当完善私信规则，提供便利用户设置仅接收好友私信或者拒绝接收所有私信等网络暴力信息防护选项，鼓励提供智能屏蔽私信或者自定义私信屏蔽词等功能。
当发现用户面临网络暴力信息风险时，网络信息服务提供者应当及时通过显著方式提示用户，告知用户可以采取的防护措施。同时为未成年人、老年人、残疾人等提供防护指导和保护救助服务。
张凌寒分析，规定“显著”方式的主要目的是使用户能从海量信息中及时收到有关网络暴力的提示信息，给用户防范网络暴力的有力指导与保护。比如，在信息发布的审核阶段，若平台分析认为某信息可能大概率涉及争议性问题，或者信息发布后的短时间内识别到大量的恶评，可以先行向用户进行提示。
张凌寒进一步补充，在传统的通知删除义务中，平台的角色地位看起来比较弱，是被动的。而“显著提示”为平台设置了预先主动介入的义务，这也可以与后续界定平台是否存在相关责任衔接起来。
畅通的投诉和举报渠道能让当事人的诉求快速反馈至平台。《规定》还要求，网络信息服务提供者应当自觉接受社会监督，优化投诉、举报程序，在服务显著位置设置专门的网络暴力信息快捷投诉、举报入口，公布处理流程，及时受理、处理公众投诉、举报并反馈处理结果。对于涉未成年人网络暴力信息的投诉、举报，网络信息服务提供者应当优先处理。
事后：细化处置措施，最高罚款二十万元
网络暴力事件往往具有“一对多”的特点，这给当事人维权带来难题。此前，金晓航律师在代理“粉头发女生被网暴”一案时就曾向记者表示，在取证过程中，主要面临的难点一是侵权人可能在诉讼前或者诉讼过程中对侵权信息予以删除，二是具体侵权主体难以确定。
值得注意的是，本次《规定》明确，网络信息服务提供者发现、处置网络暴力信息的，应当及时保存信息内容、浏览评论转发数量等数据。网络信息服务提供者应当向用户提供网络暴力信息快捷取证等功能，依法依约为用户维权提供便利。
同时，公安、网信等有关部门依法调取证据的，网络信息服务提供者应当及时提供必要的技术支持和协助。
石佳友表示，网暴受害者维权的主要难点之一，正在于缺乏关键证据，比如难以追溯源头、难以保存海量恶意评论、难以查证被删除的内容等等。而平台能够通过技术手段对这些内容留痕，同时向用户提供快捷取证等功能，这是非常关键的。
在金晓航律师看来，上述规定能够在一定程度上提高证据收集便捷性，协助受害人快速完整地对网暴实施者的相关言论进行取证，但平台要投入更多的技术、人力成本，“落实起来并不容易”。
在信息和账号处置方面，《规定》提到，对借网络暴力事件实施营销炒作等行为的用户，网络信息服务提供者应当依法依约采取清理订阅关注账号、暂停营利权限等处置措施。
对组织、煽动制作、复制、发布、传播网络暴力信息的网络信息内容多渠道分发服务机构，网络信息服务提供者应当依法依约对该机构及其管理的账号采取警示、暂停营利权限、限制提供服务、入驻清退等处置措施。
“对于借助网暴事件煽动炒作、试图吸引流量变现的组织和个人来说，清理订阅关注账号、暂停营利权限是非常有杀伤力的措施，可以说是直击问题的根本。”石佳友表示。
金晓航律师也认为，借助网暴事件炒作的网络账号大多是为了获取流量而蹭热点的“自媒体”，违规后如果仅仅是被禁言，而粉丝量、营利权限不受影响的话，震慑效果有限。取消违规账号的营利权限、清理订阅关注的粉丝，并且不提供粉丝数量转移服务，能够更好地让运营者珍惜来之不易的影响力。
《规定》同时还明确了相关部门的监督管理机制以及网暴的法律责任。张凌寒表示，针对网暴责任的追究，其实《刑法》、《治安管理处罚法》、《民法典》等法律法规都有相关的规定。在实践中，棘手的是如何界定相关人员的责任，以及平台是不是应该承担责任、在多大程度上承担责任、承担何种责任。
“《规定》在权利义务划分的阶段，明晰合法与非法的边界，为平台、相关权益人在实践中维护自己的有关权益提供了抓手，也明确提供给有关部门执法的依据。”张凌寒说。
值得一提的是，违反《规定》，且法律、行政法规没有规定的，由网信、公安、文化和旅游、广播电视等有关部门依据职责给予警告、通报批评，责令限期改正，可以并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有严重后果的，并处十万元以上二十万元以下罚款。
“上位法本身对于处罚幅度有限制，最高罚款20万元是比较高的处罚力度，也体现了监管部门从严整治网暴的导向。”石佳友说。
