他们要消失了吗?探访人工智能浪潮下的鉴黄师

鉴黄师是怎样的一个群体?

在搜索引擎里键入“鉴黄师”,会有数百万的相关结果。在知乎里,输入同样的关键字,也有各种各样的问题和回答。

“如果不考虑薪水、尊严、面子,你最想从事什么工作?”有人就回答了三个字:“鉴黄师”,答案获得了上千点赞,数百评论。尽管有一些人向往鉴黄师,但鉴黄师这个岗位,在大多数人的眼里却是一个世界黑暗、心理伤害重的岗位。外媒报道,内容审查(鉴黄师的另外个名称)是科技产业增长最快,但或许是最累人的工作之一——工作压力大巨大,且普遍遭受心理伤害。

而在另一面,随着人工智能技术的进步,一部分人认为鉴黄师的工作要被人工智能替代。

在这个态势下,如今的鉴黄师是怎样的一群人?处于怎样的一个生存状态?盾盾踩方团第二期带领大家了解下网易的鉴黄师:

视频地址:https://weibo.com/tv/v/GAmM0tIND?fid=1034:4286666848848165

?

上班看黄图

和沈鹏炜、许嘉奇、袁鹏、边雪菁约好的那天,是个阳光明媚的下午。

他们的办公室门禁森严,进出都要刷卡。带我们穿过一段较长、两边窗帘都拉下的走廊,便来到了另一头的会议室。会议室靠窗,很明亮,在这里我们就各种话题聊了将近两个小时。

对于鉴黄师的称呼,他们没有直接否定,只是在后来确认内部是否也这么称呼时,才告诉我们,网易其实内部的真实岗位名称是叫“信息安全审核专员”。而且工作范畴并不纯粹鉴黄,×××之外,他们也会处理血腥、暴力、恐怖主义等内容。

大家可能会认为鉴黄师男生偏多点,抗压力能力好,然而沈鹏炜说,实际上是女生偏多点。虽然女生有一些短板,但长处非常明显——她们非常细心,容易发现一些细节上的问题。“不过,招聘上我们会尽量保持平衡,女生招得差不多了,会刻意地去招一些男生。”

外界盛传,鉴黄师高薪又轻松,工作很有意思。他们说,没有高薪,也并不轻松。刚接触这份工作时,的确因为一些小福利,男生可能会有一点小欣喜和好奇。不过女生却是另外一种反应,有些刚毕业的女生,反应会很特别:一开始会特别害羞,脸很红不敢看。遇到需要处理违规结果时,动作会很可爱——哎呀呀,很紧张,闭着眼去点击鼠标。

有意思的是,有些×××大叔也会被福利所吸引,从一开始纳闷他们的团队怎么每天上班看黄图,在后面盯着他们看到底在干吗,到后来形成习惯,偶尔会在后面享受下福利。

“妈妈,你可以找不上夜班的工作吗?”

不过,有害信息接触多了,鉴黄师们都是同一个反应:内心多多少少会有点崩溃。

崩溃的原因主要有两方面,一方面是身体上的。首当其冲的是他们的工作时间,7x24小时,三班倒,中间不能离人。上夜班的时候,大多数人到了凌晨三四点就会很想睡觉。有些人的第二个通宵班,真的是需要靠毅力扛过来。而女生处于生理期时,可能会更加受不了。其次是眼睛,由于需要大量看东西,他们眼睛必须一目十行,而这给眼睛带来的伤害比较大,需要不断点眼药水。还有就是:胖,倒班容易肚子饿,而经常吃夜宵,就容易有副产品——身上不经意间就增长了肥肉。

另一方面是精神上的,有些人觉得每天看黄图会觉得很爽,然而鉴黄师说,实际上经常有一些超出大家想象的高清无码变态图,比如×××、变性、虐杀等,它带来的视觉冲击力非常大,犹如身临其境,心理非常容易崩溃,让你怀疑人生,觉得这个世界太黑暗……这非常考验一个人的心理素质。

更重要的是三班倒导致的时差,让鉴黄师没办法和正常人一样社交。他们说,朋友娱乐的时候,他们在睡觉。而朋友睡觉的时候,他们在另外一个世界里清理互联网的垃圾。这种牺牲,在逢年过节的时候,感受会特别强烈,大家都在,就差我一个,这种孤单感会很强烈……

亲情、友情,是他们面临的最大一个挑战。

边雪菁告诉我们:“有次晚上9点去上通宵班,他的孩子一改往常不让我出门,而是突然说:‘妈妈,你可以找不上夜班的工作吗?”临走前发生的这一幕,让她很心酸,下意识地紧紧抱住孩子,久久都没有松开。

“休息时间不固定,也会导致自己很有内疚感。朋友找你时,你没法赴约,经常这样,好多朋友都不会再来找你。这样的感觉,好像是故意疏远朋友,自己内心很容易过不去。”袁鹏分享了自己的过去的一个心理状态。

崩溃、麻木后的蜕变

和鉴黄师接触前,原以为压力“摧残”之下,与之谈话多少会有点压抑。然而有点超出我们预期的是,和他们接触后最大的感受就是发现他们,居然是一群积极乐观的人,深知这份工作存在的意义。

的确,他们一开始会有浮躁和困惑,不知道做这份职业到底有没有意义,能否体现自己的价值?每天那么忙,那么累,坚持到底是为了什么?但过了一段时间后,他们就会从多个角度看待问题,认识到自己的责任重大。

边雪菁是位有一个孩子的妈妈,她在这一点上认知特别深刻。她认为鉴黄师是一个很伟大的职业,她说,每个人终将会有孩子,以后你的孩子也会接触互联网。如果没有鉴黄师的存在,孩子很容易接触到不良信息。孩子没有判断能力,需要保护,否则会被不良信息影响,导致他们的价值观、世界观扭曲。“以前我们上网的时候,总会遇到一些含有×××信息的弹窗,玩游戏时也会遇到。”边雪婧说,现在很少会遇到了,这就是鉴黄师的功劳,让网络空间变得更健康。

有害信息看得多了,人会变得麻木。但正是这种麻木,让袁鹏有了蜕变。他说,对自己伤害得越大,越是会感受到这份责任的重大:“连我们这些专业人士都受不了,更何况普通人?”

“我们是有害信息流传到网络上的最后一道关卡,必须得守好这份疆土,避免有害信息流落到网络空间,危害社会健康。”对于这份职业的成就感,他说,看着社区、产品里的用户活跃,没有被有害信息毁掉,他们也会感到开心——尽管他们是幕后英雄,不曾被人们知晓,也不曾被感激,甚至有人对这个职位理解有偏差,接受不了。

面对身体上的劳累、心理上的折磨,大多数的鉴黄师没有选择放弃,而是默默选择坚持下去,坦然面对一切。他们如同一名法医:都是要24小时待命、克服恐惧、承受心理压力,冷静面对刑事案件里的各种情况,为破案、社会的安定提供可能的蛛丝马迹。

破壁枯燥

边雪菁说,其实每个岗位做久了都会觉得枯燥乏味,尤其是像鉴黄师这样的,更加枯燥。所以最重要的就是自己去寻找乐趣,把一份普通的工作做到有姿有色。

“我首先是调整自己的心态,乐观向上的就是我,每天上班来的时候嘻嘻哈哈,下班当然也是兴高采烈。有时候看看审核的图片、视频,其实你会发现很有趣。在审核中,如果你用心,就会发现形形×××不同的人,有些段子可能不在这里上班都不会知道,所以只要你有个好心情,工作也不会觉得枯燥乏味。”边雪菁真诚地对着我们说,你要相信不管什么事情,从不同角度出发都会发现不一样的乐趣。

许嘉奇的调节是老司机的方式——动不动开车。他会努力寻找让自己开心的点,一些低俗恶搞的信息、搞笑的图片:“男人站着高不是真的高,躺着高才是真的高。”偶尔还会分享到鉴黄师的一个内部沟通工具里,调节自己的同时,也能够让大家一起乐起来,获得提高——进一步了解有害信息的分类。

鉴黄师告诉我们,除了这些,他们也会在工作空闲片刻,在办公室聚个会,共同点个外卖,一起吃东西,互相诉说今天的经历,释放自己的压力。深夜下班,有时共同下班的几个人,也会相约一起撸个串,大口吃肉,大口喝酒,感受畅快人生。

有的人会好奇,回家之后,鉴黄师还会不会再看这些视频,或者说会不会把内容拷贝下来。沟通中,鉴黄师说,他们是不会拷贝视频的,因为公司内部有规定,审核的信息只能在后台,不能带出去。工作之余,他们会不会再看,因人而异。有的人会选择继续看,多看一点,多一分工作经验上的积累。

这让人很感动,鉴黄师虽然有痛苦、折磨和煎熬,但他们深知自己的责任,一直在永不停息地努力乐观和坚韧。

当然鉴黄这份工作,也并非没有一点好处。许嘉奇说,安全意识会变得非常好,一看到什么×××图片或谣言,都会在第一时间出来提示身边人不要转发。有些人会觉得自己消息灵通,要散布消息让朋友知道,但这样到处转发,会导致群被封掉,甚至会给自己带来不必要的麻烦。第二个是,一目十行造就的火眼金睛,让他们的观察力非常敏锐。

技术“解放”

人工智能潮流下,大家都非常关心,鉴黄师是不是要被淘汰了?

回顾人类历史上的几次技术革命,答案或许明了。蒸汽机的出现,让人类进入了蒸汽时代,蒸汽开始替代了人力,无论是炼钢,纺织业,都由此得到了巨大的发展;后来随着电力的普及,人类进入电气时代,开始进一步替代人力;而随着互联网、云计算、大数据等技术的发展,人类又进入信息时代……然而不管怎么变化,都是把人从单调的劳动生产中解放出来,让他们可以从事更有价值的劳动,而不是单一重复的劳动。

沈鹏炜说,技术的介入,的确替代了很大一部分人力,让技术成为了主力,人工成为辅助。尤其是几年前,网易云易盾内容安全第三代人工智能技术接入后,人+技术协同,审核效率较之前提升了数千倍。

但技术并没有淘汰掉鉴黄师,却是解放了鉴黄师。许多海量的工作,人工智能技术一个规则就可以立马处理掉。而不是像多年前,几个鉴黄师要埋头吭哧处理好几天,非常辛苦不说,低效还容易造成内容安全事故。

“今天的鉴黄师能够从事更加高级的工作,比如说,有害数据分析、前台巡查、规则维护、质检检查等更核心、有效的工作,因此,鉴黄师也不像以前那样压力大和工作繁忙。”沈鹏炜介绍到。

鉴黄师被解放的背后,是一段网易云易盾内容安全技术不断升级的历史:第一代内容安全技术是建立在关键词、黑白名单、过滤器和分类器上;第二代内容安全技术基于内容特征识别(肤色、纹理)、贝叶斯过滤、相似度匹配和规则系统;而第三代则升级为大数据分析(用户行为、用户分类)、人机识别、人工智能和机器学习(语义识别、图像识别)。经过不断更新换代后,网易云易盾内容安全服务已覆盖了文本、图片、语音和视频(直播)等领域,在广告过滤、智能鉴黄、暴恐识别等场景应用上,有害信息处理效果超出所有客户预期。

沈鹏炜最后表示,只要有男人和女人在,欲望就在,鉴黄师也就在。似乎嫌这样的说法不够严谨,他接着又补充一句:“人工离不开智能,但智能也脱离不了人工,因此鉴黄师的未来只会变化,而不会消失。”?

欢迎点击免费体验网易云易盾安全服务请添加链接描述

原文地址:http://blog.51cto.com/13610827/2178866

时间: 2024-11-06 07:20:56

他们要消失了吗?探访人工智能浪潮下的鉴黄师的相关文章

人工智能冲击下,如何提前避免IT人员被淘汰?

在谈本文主题前,我们来谈谈国内经济的宏观发展形式! 2017年,国内经济形势为或增长放缓或下行,企业已面临巨大的压力,倒闭的企业或将更多.因此,IT岗位就业再就业压力也会加大,我们先来看看历史上经济上行的拐点驱动力. 1980-1995年,改革开放是是经济发展的驱动力. 1995-2000年,互联网从无到有是经济发展的驱动力. 2000-2010年,互联网高速发展是经济发展的驱动力. 2010-2017年,移动互联网高速发展是经济发展的驱动力. 2017-2025年,带动经济发展的驱动力是什么?

粉丝经济:移动互联网浪潮下的创业趋势

移动互联网时代,尤其是在这个大众创业的时代,最不缺乏的就是人才.要想从众多人才中脱颖而出,真的需要粉丝的力量.从某种意义上说,粉丝经济就是移动互联网浪潮下的创业趋势.把握好互联网创业趋势,掌握以"粉丝经济"为牵线主导力量,创业就成功了一半. 文/辛东方,80后作家.专栏作者.专注互联网科技领域 移动互联网创业下的浪潮不断,一波比一波强.在这个人人都谈创业的时代,大众确实被创业给迷住了,像吃了迷·药一样不断被吸引,模仿和追赶. 其实,互联网创业浪潮中,最重要的是产品的价值,要不断持续生产

5月17日云栖精选夜读:大数据浪潮下,前端工程师眼中的完整数据链图

今天几乎所有的互联网公司背后都有一支规模庞大的数据团队和一整套数据解决方案作决策,这个时代已经不是只有硅谷巨头才玩数据的时代,是人人都在依赖着数据生存,可以说如今社会数据价值已经被推到前所未有的高度. 热点热议 大数据浪潮下,前端工程师眼中的完整数据链图 作者:王二辉   发表在:大数据文摘 如何打造一个小而精的电商网站架构? 作者:稀奇古怪 WannaCry只是个开始?信息时代你急需的安全书单 作者:博文视点 知识整理 MySQL使用初步-mysql数据库的基本命令 作者:小小兔 Java集合

人工智能:下一个数据分析的黄金时代

今天的中国正在进入数据分析的黄金时代.根据中国信通院,2016年中国大数据市场规模为168.0亿元.增速达到45%,预计2017-2020年增速保持在30%以上.而在中国信通院2017年3月的一份调查显示,有59.2%的受访企业已经建立了数据分析部门,27.3%的企业正在计划成立数据部门,绝大部分企业均已意识到数据分析对企业发展的重要性. 反应到市场的人才储备方面,在由全球数据分析领导企业SAS公司举办的2017中国高校SAS数据分析大赛上,今年的参赛队伍跳升到全国1036支参赛队伍近3000多

人工智能时代下,Python与C/C++谁将成为人工智能核心算法选择?

据TIOBE公布的2019 年6月编程语言排行榜,Python以8.53%的涨幅排名超过去年同期C++排名,位列第3名,仅次于Java和C.python一路逆袭,甚至有人断言未来Python将成为人工智能的核心算法.那作为机器学习底层框架和支持库的C/C++就没有市场了吗?其实也不尽然! 互联网产品日渐饱和,移动互联网也已进入下半场,市场已经从巅峰时代逐渐进入一个相对平稳的发展阶段,互联网人口渗透率已经超过了50%.人工智能掀起了新的一波世界科技浪潮,互联网巨头公司BAT.近年来崛起的人工智能企

成本优化浪潮下重新思考RPA技术

下一次成本优化浪潮正加速到来,如何真正做到降本增效,是当前全球企业亟待解决的问题. 为此,人们将目光放在了能够替代人工的自动化.智能化科技上,从桌面自动化发展到机器人流程自动化(RPA),最终将实现智能自动化(RPA+AI). 从RPA到AI.再到RPA 从能完成重复性强.规则清晰的工作的传统RPA支持人类使用.提高人类效率,到像人类一样识别.学习.思考和感知(人工智能的结合),最终能做到数据分析.洞察力报告和决策支持,未来,RPA将朝着更加智能化的方向发展. RPA和AI有两个共通性:一是都跟

路在何方?移动互联网浪潮下房地产转型之路探讨

根据<2014年中国移动互联网行业深度报告>指出,移动互联网浪潮将改造五大传统行业,即旅游.房地产.汽车.金融.医疗健康.之所以这五大行业能脱颖而出,主要在于它们满足了移动互联网时代行业转型的四大要素: ①B2C模式,有海量用户基础,具备长尾价值: ②提供非标产品(产品+服务): ③市场空间大: ④当前效率低,用户痛点多. 而在五大传统行业中,旅游和房地产将率先爆发. 房地产作为传统行业,也是国内的支柱型产业,每次的变动,对于国内的经济影响,举足轻重,几乎每隔几年中国的房地产总有那么一股上下波

大数据浪潮下的前端工程师

流形 链接来源 马云曾经说过『人类正从IT时代走向DT时代』. 正如他说言,今天几乎所有的互联网公司背后都有一支规模庞大的数据团队和一整套数据解决方案作决策, 这个时代已经不是只有硅谷巨头才玩数据的时代,是人人都在依赖着数据生存,可以说如今社会数据价值已经被推到前所未有的高度. 我作为一名前端工程师在阿里巴巴数据团队工作多年,深入了解数据生产加工链路与产品化.我们这群前端是与界面最近的工程师们, 似乎与数据离得很远,对于我们来说与数据有些怎样连接呢. 完整数据链路 首先,我用直观的一张图绘制出数

人工智能时代下,人类保持就业竞争力的5中途径

阿尔法狗打败围棋高手.百度无人驾驶在五环上路.微软小冰写出以假乱真的诗句.无人超市无人工厂出现.日本甚至推出了人工智能×××机器人,互联网巨头纷纷加速人工智能发展,×××印发<新一代人工智能发展规划>,这一切都在预示着一个新的时代到来--人工智能时代! 就像平地一声雷一样,"人工智能"这个词一夜之间所有人都在谈论它.然而,实际上它已经发展了61年.但在几十年的时间里,它都处于默默孕育的冬天.只是现在,冬天已彻底过去,人工智能的春天又回来了,并开始在各个领域崭露头角. 随着人