毒眸在它的公众号文章《欢迎来到严肃娱乐时代》里,描述了短视频平台最近半年遇到的内容安全事件:
7月31日,被粉丝称作“斗鱼一姐”的陈一发儿发布了迄今为止的最后一条微博,对自己有关南京大×××的不当言行表达了歉意,将“自愿接受革命教育”挽回不良后果。但为时已晚,不到七个小时,斗鱼宣布“禁封陈一发儿”、向上级提供资料并依法严肃处理,同时“启动对所有主播的爱国主义教育行动”。
“暴走漫画”团队则在三个月前便紧急开展爱国主义教育。因被指控内容“恶意消费、侮辱革命先烈”、违反《英雄烈士保护法》,该视频被平台封禁。团队随即前往惠阳,参观叶挺将军纪念馆、祭扫叶挺将军陵园,并向惠州市惠阳区叶挺纪念园捐款。随后又在CEO任剑的带领下,去往河北省隆化县董存瑞烈士陵园向董存瑞烈士敬献花篮,公开道歉。
B站的觉悟来得更强烈一些。在今年8月又一次被点名要求整改后,哔哩哔哩在公司大厅摆满了党史教育的展板,让员工每日能都看见、学习党史,以表达公司加强自我约束和整改的决心。
被誉为短视频“元年”的2017年,是短视频行业爆炸式增长的一年,不仅用户的观看习惯愈发成熟,涌现出更多内容创作者,各平台、机构、广告主也纷纷加入其中。艾瑞咨询2018年1月发布的《2017年中国短视频行业研究报告》显示,2017年我国短视频市场规模达到57.3亿元,同比增长183.9%,业内预计2020年短视频市场规模有望突破300亿元。
短视频覆盖范围的极速扩张,对社会的影响力也越来越大,平台在满足用户观看、创作、沟通等需求的同时,也应对平台内视频负有监管责任,引导用户形成正确价值观,这就愈发突显出视频审核工作的重要性。另一方面,2017年多项互联网内容治理政策相继出台,互联网内容安全在政策和法律监管上表现进一步收紧,对内容平台不良治理能力的要求更加严格。
如何确保内容安全成为了各个短视频网站发展的第一要务,无论直播平台、还是视频网站都不想出现内容安全事件,他们在选题、引导、内容审核上都投入了很多精力。这不难理解,但凡内容出现与“正能量”相悖的内容,都有面临监管的风险。
作为领先的内容安全平台,网易云易盾基于20年经验和智能技术,成功服务了数百家内容平台,帮助他们降低内容安全风险和监管压力,知名平台包括秒拍、小咖秀、触电新闻等。易盾每天拦截有害信息10亿+条,其中包括谩骂、×××、违禁、涉政等。
这两年随着媒介形式的升级,直播短视频成为很多媒体平台的标配,成为新的流量蜜罐,有害信息中图片、音频的比例也在迅速增加。内容安全已成为视听平台重要安全风险之一,需要公司高层从战略角度进行关注。
如何快速构建符合业务需求的内容安全体系?网易云易盾内容安全专家提出5条建议:
1.重视历史数据清理:结合业务特性,应定期对历史数据进行排查。通过离线分析,及时发现并清理新型变种垃圾,不断完善全链路的布控方案;
2.做好事前防御: 联动用户账户注册保护和登录保护的反作弊手段,从源头发现并拦截有害信息发布者;
3.加强实人认证:针对用户分级管理,加强实人认证,提高有害信息发布者的门槛,内容发布全流程可管理、可追溯;
4.应用智能手段:及时更新或引进第三方的文本、图片、音视频等内容智能检测技术,欲善内容安全其事,先利智能技术之器;
5.建立规范体系:产品内容安全涉及技术、政策、运营、审核等多团队,产品长期发展需及时建立相应的内容安全管理机制、应急处理机制。
最后,希望2018下半年,短视频平台都能处理好内容安全问题。
网易云易盾为互联网企业提供智能、高效、低成本的内容安全解决方案,感兴趣的朋友欢迎免费试用。
原文地址:http://blog.51cto.com/13610827/2171366