上周，新西兰遭遇历史上最为黑暗的一天。
3月15日，极端思想的枪手冲进克莱斯特彻奇两家清真寺射杀，造成50多人遇难，并导致多人受伤。
新西兰清真寺枪击案震惊了全球。随后，新西兰总理Jacinda Ardern对枪击事件作做出了一系列的讲话，其中之一就是发出疑问——枪手为什么能够在Facebook和其他社交媒体平台上直播杀戮过程。
据国内媒体报道，枪手的直播视频看起来是用安装在头盔上的摄像机拍摄的，在Facebook发现并删除之前，枪手已经直播了17分钟的血腥×××。
也正是这17分钟的直播没有把好关，令视频、图像传播范围极广，在Twitter、Youtube、Instagram以及其他社交平台、即时通讯应用上广泛传播。这也使得外界质疑“Facebook”把关能力到底行不行，并指责这些社交媒体动作过于迟缓，没有采取足够措施阻拦用户上传相关文件。
新西兰总理Jacinda Ardern指出，社交媒体应该负起把关的最大责任。随后的言论显示，她开始认同澳大利亚总理Scott Morrison的看法——即现有针对社交媒体的法律还不够严厉。
Facebook表示，在事发后的24小时内，共删除150万段网民转发的相关影片，其中120万段在上传前被拦截。Facebook发言人还指出：“凡是赞扬、支持此次恐袭和袭击者的内容，一经发现，都被立刻删除。”Twitter则表示，他们有一个专门小组来应对这种严重、紧急的情况。谷歌、YouTube则在声明中表示，不良内容在他们的平台上无所立足，只要发现有，就会立即删除。”
对应的平台给出了答复，并采取了措施。有些人认为，事情应该就这么结束了，然而并没有。
本周二，美国众议院国土安全委员会主席Bennie G. Thompson给Facebook、Youtube等公司技术高管写了一封信，要求在3月27日就新西兰枪手在社交平台直播行凶过程作出回应，敦促他们更快速删除恐怖主义视频，并简要介绍他们的回应和计划，以防止类似事件在未来发生。收到这些信的高管包括，Facebook CEO Mark Elliot Zuckerberg，YouTube CEO Susan Wojcicki、Twitter CEO Jack Dorsey，以及微软 CEO Satya Nadella。
Bennie G. Thompson表示，这些公司必须优先投入资源和注意力，应对这些有毒和暴力的意识形态。“如果你不愿意这样做，国会将考虑制定相关政策，确保恐怖内容不会在你们的平台上传，国会也会研究其他国家的做法先例。”
Bennie G. Thompson强调：“你必须做得更好。”
实际上，恐怖内容在社交平台上得到直播并非首次发生。2017年，泰国的一名父亲在Facebook直播了杀害女儿的视频，当时Facebook花了一天多的时间才清除掉视频。也是在同一年，美国俄亥俄州的Cleveland市，一名男子直播枪击他人。
如果无法在第一时间有效遏制暴恐内容在社交平台上传播，就会成为恐怖分子的帮凶，危害巨大。它能制造仇恨、偏见，让极端主义不断蔓延。其次，破坏社会稳定，让人效仿使用暴力去解决问题。更重要的是，暴恐内容在社交媒体上传播对未成年人伤害最严重，让他们出现很多不正常的心理和行为表现，害怕周围的一切人和事物，恐惧日常的社会交流。
为了打击恐怖主义，中国早在2015年12月27日就发布了《×××反恐怖主义法》，后又于2018年4月27日进行了修改发布。
阻止恐怖主义在互联网空间蔓延，《×××反恐怖主义法》也对互联网服务提供者进行了规范：
1.未依照规定为公安机关、国家安全机关依法进行防范、调查恐怖活动提供技术接口和解密等技术支持和协助的；
2.未按照主管部门的要求，停止传输、删除含有恐怖主义、极端主义内容的信息，保存相关记录，关闭相关网站或者关停相关服务的；
3.未落实网络安全、信息内容监督制度和安全技术防范措施，造成含有恐怖主义、极端主义内容的信息传播，情节严重的。
有以上情形的，将处以罚款，情节严重的直接负责人和其他直接责任人员将处以拘留。《×××反恐怖主义法》九十三条，又补充规定：违反本法规定，情节严重的，由主管部门责令停止从事相关业务、提供相关服务或者责令停产停业；造成严重后果的，吊销有关证照或者撤销登记。
从这来看，发生极端事件做到“秒删”视频，以及建立信息内容监督制度不仅仅是Facebook、Twitter、Youtube等平台的责任，国内的内容平台也是必须做到的。
那如何快速构建符合业务需求的内容安全体系？网易易盾内容安全专家提出4条建议：
1.做好事前防御： 联动用户账户注册保护和登录保护的反作弊手段，从源头发现并拦截有害信息发布者；
2.加强实人认证：针对用户分级管理，加强实人认证，提高有害信息发布者的门槛，内容发布全流程可管理、可追溯；
3.应用智能手段：有些不良信息发布者也有一定概率是正常用户，这时就要及时更新或引进第三方的文本、图片、音视频等内容智能检测技术，欲善内容安全其事，先利智能技术之器；
4.建立规范体系：产品内容安全涉及技术、政策、运营、审核等多团队，产品长期发展需及时建立相应的内容安全管理机制、应急处理机制。
在最后，网易易盾内容安全专家还指出，中小企业应该专注于主赛道——业务的快速发展和创新，不要浪费机会成本。像一些持续投入的非核心业务，尽量交给第三方专业的内容安全服务，比如说网易易盾。
本文素材援用自：
[1]美国会要求四大社交网络：发生极端事件必须秒删视频，腾讯科技；
[2]Facebook等科技公司高管被国会要求就新西兰枪手直播案作出回应，CnBeta；
[3]脸书、推特、谷歌等正全力删除新西兰恐袭视频及其他有害内容；澎湃新闻；
原文地址：https://blog.51cto.com/13610827/2367546