直播内容鉴黄师:入行才知性感与低俗的区别

社会新闻 2017-08-11 11:52

“后台每天都会添加大量敏感词……我们有时候私底下坐一块儿,你去想,你也去想,就找(某个敏感词的)谐音……你想想,中国汉字(这么多),比如跟‘微信’这两个字谐音'...

“后台每天都会添加大量敏感词……我们有时候私底下坐一块儿,你去想,你也去想,就找(某个敏感词的)谐音……你想想,中国汉字(这么多),比如跟‘微信’这两个字谐音的就得有多少?”“1000多个关于防爆的敏感词,我自己都不知道是什么东西,全进词库了”“进了这个行业,才分得清什么是性感,什么是低俗,什么是暴露”。

直播内容鉴黄师直播内容鉴黄师

讲这些话时,林达正坐在位于北京酒仙桥路360公司所投资的平台——花椒直播的“摄影棚”里,所谓摄影棚,其实是一间小会议室,林达是花椒直播的600多名内容审核员之一。出写字楼往东南方向再走1.3公里,是国投信息创意产业园,这是另一家直播平台“人人直播”所在地——自纳斯达克上市后在资本运作上困顿已久的人人网也终于忍不住在2016年开始试水直播,虽然规模相对不大,但比起之前的纯校园社交平台,这已经算是更直观的商业化尝试。

继文字、图片、视频之后,随着技术升级与资本追捧,带有时间流这个第四种呈现维度的直播在过去一年里暴得大名,想在“风口”分得一杯羹的创业者众,想趁机抓住一根救命稻草的焦虑者众,于是不乏鱼龙混杂,急功近利中泥沙俱下。随之而来的,是一系列来自行政的规范肃清。2017年5月,文化部高调关停了涉嫌低俗传播的“千树”等10家表演平台,并对48家网络表演经营单位进行了处罚,关闭直播间30235间。

直播内容鉴黄师直播内容鉴黄师

迅速野蛮生长后,除稗筛糠成了主流直播平台不敢掉以轻心要自我应对的事情,加上用户数量与日俱增,于是各家产品不得不快速跟进增设更多的内容审核员进入运营团队。一下科技副总裁陈太锋告诉媒体记者,比如公司由最初只审核旗下秒拍内容的几十人,到后来有了小咖秀、一直播等产品,现在做内容审核的“整个加起来将近七八百号人”。

虽然这似乎是一个看起来并不需要什么鲜明特长的群体,甚至做的事情“类似富士康这种流水线的工作”,但由于工作性质微妙,仍略带神秘感,也有外界声音把他们称作“鉴黄师”。

这是谐音字 你好好念念

“其实还不一样,到鉴黄师这个级别,他们就不做初级审核员这些工作了,他们会创造和制定规则”,林达认真地告诉媒体记者,所以目前国内绝大部分从事直播内容过滤的相关工作人员,称为“内容审核员”是更严谨的说法。好像在叙述一款升级打怪的手游。

林达今年24岁,小时候随父母来到北京生活,便再没有回陕西老家长住过。2015年大学毕业,去年入职花椒直播做了内容审核员,和朋友们一块儿吃饭时大家聊起来,别人问他:“你现在是不是有点网络警察的感觉啊?”“对。”他觉得这个比喻很受用。

马可也不大喜欢别人用“鉴黄师”三个字来概括自己在人人直播的内容审核工作,2016年春节过后,人人网尝试上线了初版直播平台,从原运营团队抽拔了一部分人转做直播内容审核,不过由于体量有限,直到后来有新人继续补充加入,整个审核团队也不过保持在二三十人左右的状态。马可特意强调他们做的不仅仅是基础审核,由于主要面向校园人群,相对单纯,所以平时还有很大一部分工作内容是和主播沟通交流、甚至提些优化建议的更有“运营”技术含量的事情。

而无论哪家平台,对于内容审核员来说最常规的工作方式,就是面对屏幕“大家来找茬儿”。据记者了解,比如人人直播后台审核,一张电脑屏平时可同时监管9个直播间;花椒直播目前采用的是双屏监控,同时可在线观察20路视频,在高峰期甚至会让每个审核员扩展到同时监管50路。嗯,《封神演义》中的“眼观四面,耳听八方”也不过如此……

除此之外,各主流平台目前也都在不同程度采用人工智能做前期过滤,对于疑似存在问题的图像或语音内容进行标红提示。陈太锋透露,一直播就在同时采用人脸识别技术、爆恐音频过滤以及视频指纹过滤等方式来对人工审核进行辅助。

对于所有平台来说,审核最主要的关注点无非是包括对主播的穿着、语言、房间布置等等是否违禁的判断,判断标准主要参考各家平台自制的内部规范手册,这类手册往往可以细化到这样的程度:如果以5号宋体字排版、用A4纸打印,装订起来能有300页之多,而且还在动态增补。审核员需要在入职前经过一周到一个月时间不等的培训、考试,全部通过后,才正式上岗。而考核指标主要来自两方面:一是错误率,一是工作量。

当审核员看到主播在直播过程中有涉嫌违规时,对有触线倾向或轻度触线者会在后台给出警告提示,对于无视提醒或重度违规者则直接令其下线,给予几个小时到一个月,甚至永久封禁的处罚。

但是不同直播平台在具体操作方面会略有不同。有一直播这一类图文同审,也有花椒这种做影像与文字分离审核。林达告诉记者,由于审核规则设置极为细致,为个体做判断的过程增加了难度,所以花椒目前是专人专项做审核,文字、图片与视频分离,比如对于文字内容,要查看包括飘屏、评论、状态页介绍等内容,必要时甚至会查看私信。

敏感词库也是直播平台标配之一,并且各平台在日积月累实时添加大量敏感词,“我们有时候私底下坐一块儿,你去想,你也去想,就找(某个敏感词的)谐音……你想想,中国汉字(这么多),比如跟‘微信’这两个字谐音的就得有多少?……(不安分的用户)他们一直在想一些(关联)字,虽然乍一看跟那些乱七八糟的八竿子打不着,但是别的用户可能一看就知道是什么意思那种。”

林达说,有一次总监去参加“防爆培训”,回来立马把1000多个敏感词加入了后台词库,“那些词,(当时)我自己都不知道是什么东西。”

这类工作做久了,也容易产生职业敏感,有一次林达看到父亲正在用一款音乐类的社交App,“我就问他,你觉得这个人没有问题吗?他说没有啊,唱歌的小姑娘长得还挺好看的。我就说:这是谐音字,你好好念念。”当时屏幕上显示的几个字是“伍佰肄业”。当然,想讲述的显然并不是歌手伍佰没能顺利毕业的故事。

我们被对手黑了 还上了微博热搜

某直播平台员工沈浪向记者抱怨道,有一天晚上其平台突然出现三个戴着口罩但明显涉嫌传播色情内容的人员,迅速直播,迅速下线。第二天关于该事件的消息铺天盖地传开,并且上了微博热搜。“但是我们技术一筛查,发现这三个人是同一个开播地点,连IP都一样,后来发现是竞品直播平台雇人来抹黑的,他们还没开始播,就提前把录制软件打开,播完自己再去看录像,然后截图发通稿,发给了很多媒体。”

但是这件事情最终仍然不了了之,没有走法律程序解决。“因为你知道打官司的话,其实要很长时间……而且这家公司我们还是比较了解的,估计老板之间(关系还不错),也互相说了下,就算了。”

猜你喜欢