6月28日,抖音在北京举办「预防和治理网络暴力开放日」,介绍目前治理网暴的功能与手段,也与大家沟通治理网暴的难点。从刘学洲事件、东航事故再到唐山打人事件,网暴现象泛化。
认识和预防网暴,已成为互联网平台和每个网民都无法避开的命题。
为什么网暴治理这么困难?抖音为治理网暴升级了哪些功能、为受害者提供哪些帮助?以下将带你了解抖音是如何预防和治理网暴的。治理网络暴力为什么困难网络暴力,判断难01对话身份不同,语义暴力程度不同。父母、朋友或者恋人之间的开玩笑,与陌生人之间的恶语相向,感受完全不同。
02不同的人物,对于网络语言的感受完全不同。
网暴和非网暴的界限模糊,依托于受害者主观感受,难以统一化辨别。03网暴的留言聚集速度和数量,难有量化标准。用户收到恶评,平台如果对她进行保护,是该在第一条还是在第1000条,还是在第500条?很难去制定一个明确的数字标准。
04公共机构和公众人物势必承担更多批评。他们更被各方所关注且给予更高要求,负有更多责任。
审核工作量巨大,错审、漏审易引发公众不满05重大事件发生时,短期易出现海量网暴评论。
唐山事件发生12个小时内,平台收到评论接近300万条。假设机器初步审核200万条,剩下100万条评论需要400名审核员连续高强度不间断工作12小时才能完成。06网暴内容,机器识别难。
利用谐音、缩写发布带有挑衅、讥讽意味的言论或者p图,介于批评与网暴之间的内容,机器均难以识别。07不同程度语言暴力处罚标准不同。诅咒、攻击、曝光、嘲讽和挑衅,对帐号进行无限期封禁,还是短期禁言,或者只是删除评论,都需要按照语言暴力程度详细评估。08事件反转,外部信息真实性不断变化,影响网暴处理进程。
网暴相比其他互联网治理场景的特殊性09大规模情绪爆发后,理性思考易引发二次网暴。某网暴事件中,著名评论员、大v发表看法,不被很多网友认可,遭到嘲讽、二次网暴。10网暴容易跨平台相互流转。A平台引发的网暴,可能很快就出现在了BCD平台。
很少再有一个网暴事件独立出现在某一个平台。11网暴场景很多发生在私信。平台不能干涉用户隐私,只能提供工具给用户。治理网暴,抖音做了什么针对施暴者,拦截不当言论12上线发文警示和正向引导等功能。
对于一些被模型判定为不当评论的,反复提醒用户。13私信的临时对话设定功能。限制陌生人每次只能向单个用户发送一条的申请信息,用户回复后,陌生人才能与其临时对话,有效期为 24 小时,超时后重新申请,尽力拦截不当言论。
针对受害者,升级防暴功能14抖音上线“一键防暴”功能。点开“抖音小安”抖音号私信菜单栏,点击“小安超能力”-“网暴护体盾”,即可开启“一键防暴”。15平台主动联系可能存在网暴风险的用户,提供防暴指引和帮助。
16为用户上线评论、私信权限设置、评论区关键词屏蔽等功能。用户可对评论私信对象进行设定,可设置为所有人、互关好友或关闭三种状态。同时,当用户收到可能包含风险的私信时,抖音也会发出提醒。17增加用户举报网暴行为的入口。
同时,抖音的客服电话和举报邮箱也会实时接收和处理针对网暴的举报。18建立心理关怀团队,提供心理安慰。抖音安全中心联合字节跳动公益、AI-lab等团队组成专项小组,为用户提供心理关怀服务。