Loading… 比心陪练内容审核员:平台安全的守护者_TOM资讯
正文
Qzone
微博
微信

比心陪练内容审核员:平台安全的守护者

2021-04-22 17:59 TOM   

“社交媒体上最阴暗的一面,不在广大网民的屏幕里,而在内容审核员眼前。”加州大学教授 Sarah T. Roberts在《屏幕背后》所描述的这个职业,正越来越高频的出现在大众视野。

血腥、 、暴力、诈骗...内容审核员充当了互联网“过滤器”的角色,一位内容审核每天平均要看2000条以上的内容,最快要十几秒判断处理一条信息,尤其今天互联网传播已经不局限于文字图片,短视频、直播、音频等内容大量产生,对内容审核提出了更复杂的要求。

互联网“灰色地带”是他们的主战场

2020年7月,我国人社部联合市场监管总局、国家统计局正式向社会发布,将互联网信息审核员认定为新职业。在这之前,小贤已经在这行做了四年,她是电竞生态聚合平台比心的一位审核运营。“做这个职业,判断力和学习能力是最重要的,比如一些信息单独来看可能没什么问题,通过一些方式组合在一起会有不同的含义,这对审核员个人的知识广度和敏感度都有很高的要求”,内容审核的规则和标准是不断在变化的,一些直接表露 、血腥的内容反而容易判定处理,最考验审核员能力的是边际更模糊的“灰色地带”,而这往往是各互联网平台投入人力最多的部分。

比心陪练内容审核员:平台安全的守护者

图片来源:比心内容审核团队

“比心有近400人的团队在做内容安全工作,围绕反垃圾、反欺诈、反作弊建立了安全风控体系,人力基本是7*24小时轮班制工作。”易明加入比心内容审核团队较早,他对平台风控体系的建设体会最深。内容审核并不是一个很容易体现工作成果的部门,但对于平台型互联网企业却是必不可缺的一环。对从业人员除了专业能力和经验上的要求,心理耐受度也是非常重要的考验。

既要敏感,又要“大条”一点

“人的心理和情绪是有阈值的,每天要接触大量的负面、违规信息,尤其对于新人来说,很容易跨不过这个坎。”这个时候,团队的资深人员和管理人员要充当起心理辅导师的角色,帮助新人度过这个阶段,一方面要正视这份工作,另一方面要找到工作的成就感。

比心陪练内容审核员:平台安全的守护者

图片来源:比心内容审核团队

小贤入行四年,她觉得做内容审核,既要敏感,又要“大条”一点。对于职业心理问题最重要的是不断更新自己的知识储备,只有个人的知识面广、认知足够丰富,才能高于问题看待问题,也就是俗话说的“见怪不怪”。在比心,每个审核员每个月要接受2次业务考试,以及每个月1次的常规培训和特殊节点的业务培训,学习几乎贯穿于整个工作周期。有意思的是,为了避免培训考试过于枯燥,比心审核团队会进行“角色扮演”式的模拟演练,一线的审核会根据实际情况和新问题,自发写剧本、做VLOG、写情景小故事,帮助团队消化理解业务。

而在这个工作里找到成就感其实并不容易,很多时候还是团队内会更能体会彼此的工作价值,在易明看来,审核多数是前置进行的工作,把风险排查在发生之前,拔掉一个问题,处理掉一条违规可能你会“暗爽”,因为你的判断也许会帮公司避免一笔损失,帮行业发现隐藏的黑灰产线索,这种暗处的“博弈”也是工作成就感的来源之一。

人机结合审核是长期发展方向

互联网每天产生的UGC 内容量是一个天文数字,随着人工智能的发展,机器审核技术也越来越多的介入到内容审核体系里,承担一些直观、边界清晰的违规内容审核,对海量内容进行第一阶段的辅助筛查。所以现在包括比心在内,主流互联网平台都已经在用「人+机器」的内容审核方式。比心内容审核负责人表示,接下来,比心将通过技术驱动,在系统建设、管控模式上实现智能化,保障业务交付结果处于行业头部水平。

内容审核会随着互联网生态的成熟而发展,这种伴生关系就像我们居住的地球是在四十余亿年前诞生的,而病毒、细菌等也已存活了三十多亿年,我们无法去彻底杜绝阴暗面的存在,但作为普通用户的诉求是不变的,我们都需要一个干净健康的网络生活环境,作为平台只有险中求稳,更谨慎的对待内容安全问题。

 

责任编辑: WY-BD

责任编辑: WY-BD