工作:“机器帮忙识别色情信息,实时监控直播的越轨举动”
邓柯介绍:“视频直播的利润空间之大,普通人难以想象。比如一个以喊麦著称的主播,办一场活动号称‘日薪百万’,很多直播平台不惜花百万元甚至千万元去挖一个TOP级别的主播。”据悉,一些美女主播为了维持足够的用户粘度,常常一段直播长达两小时,甚至有人曾表演长达8小时的丝袜舞,平均每隔三分钟念一遍感谢粉丝赠送礼物的名单……当她们做出一些越轨举动时,往往能收获很多礼物,折合成人民币数额相当可观,于是一些美女主播不时打打“情色”擦边球。
去年11月28日,女主播“雪梨枪”因传播色情视频内容被判有期徒刑4年,给这类突破底线的主播们敲响了警钟。“利用色情谋利是直播平台的大忌,以身犯险极易触犯法律。”周耀辉说。姜泽荣也强调违法行为是不能容忍的:“人有需求很正常,但释放途径要得当,利用这一点做违规、违法的事情很不好。”
周耀辉表示,直播平台对于“AI鉴黄师”的需求量很大:“因为直播是实时性的,随时可能有人做出越轨举动,机器(系统)会把视频实时导出成一张张图片,以方便鉴别。”不过,各个平台的尺度不一样,姜泽荣说:“我们把机器给直播平台使用,但他们在调用时选择的尺度是不同的。”
“内容管控是个世界性课题,很多人觉得海外网络管控很松,可以随意浏览色情网站,其实这是一种误解,不少国家和地区的管控相当严格,比如在实名认证的情况下,Google Play对色情是零容忍的,而日本AV有明确的分级制度。”周耀辉指出了人们的一些认识误区。
有人责难“鉴黄师”,认为他们堵塞了人性的出口。对此姜泽荣持反对意见。他认为,在尚未“分级”的情况下,“宁可错杀一千,也不能放过一个”,而“一刀切”目前看来是必要的,必须防止色情视频对青少年身心健康的危害,但他们希望另一方面,“性教育”也该完善。他表示:“我们调查也发现,很多家长没有正确引导孩子,一味压抑也是不对的。”
在机器和人的努力下,如今色情直播现象明显少了很多,“我们平台数据显示,现在直播过程中,出现色情内容的比例是万分之四。”邓柯说。
感受:“安静理性适合当鉴黄师,太活泼的人干不了”
“刚开始做这份工作有些不适应,当你打开屏幕,满屏都是不堪入目的内容,我整个人都凌乱了。”姜泽荣的同事毛毛,是这次斗鱼直播节目《职男职女职播》的一位嘉宾,“美女鉴黄师”的标签让她在几位嘉宾中特别抢眼。
姜泽荣被同事称为“老司机”,是AI鉴黄的元老。“公司刚成立时,部门只有四个人,加班非常多,一天起码有六个小时在搜集数据,简单说,就是看黄图、黄片,然后把它们扔到数据库中。”他们部门“技术宅”居多。“我们在招聘时对性格有要求,太活泼的人当不了鉴黄师,性格安静、理性的人比较适合。”姜泽荣说。
2013年,百度、腾讯、金山等10多个互联网公司组成的“安全联盟”,公开招聘“首席淫秽色情鉴定官”,条件是年薪20万元、五险一金、每天有酸奶水果福利,工作内容就是对着电脑专职识别色情淫秽网站。很多人觉得这份工作很酷,但随后也不断传出有鉴黄师申请“工伤”索赔的新闻。姜泽荣吐槽道:“说当‘鉴黄师’是件很酷的事情的人,都不了解这个职业。凡事都有个度,什么事都耐不住天天看啊!”姜泽荣解释,“鉴黄”只是他工作的一部分,他们还在开拓其他智能识别项目。
“我们组有6个人,全是男性,都不会跟外界说自己是‘鉴黄师’,因为对很多人来说,这不是什么很好的工作,说出去会影响别人对你的看法。但另一方面,净化网络环境的工作是有意义的。”姜泽荣通常会跟亲友说自己是做互联网技术的,如今还有种高大上的说辞——“我在做‘人工智能’。”