【案例】内容审核助力猫爪构建健康安全的社交环境
置顶
du小谨 发布于2020-10 浏览:3367 回复:0
0
收藏

价值成果

猫爪是一款保护隐私的社交APP,用户可以没有负担的聊天、分享、交友等,实现与现实朋友圈隔离。

猫爪接入百度大脑内容审核平台后,有效提升了聊天、好友圈、微日记等多个业务场景的内容风控能力,通过接入百度内容审核的色情识别、涉政识别、暴恐识别等服务,对用户上传的文本和图像信息进行多维度识别,精简了内容审核流程,极大地提高了内容管控效率,审核准确率较之前提升了30%,同时缩短了用户内容从发布到呈现的周期,有效遏制了违规内容的呈现和传播,保证UGC内容安全、及时的呈现,在保证用户社交体验的同时,为用户提供了更为轻松、健康的社交环境。

 

核心诉求

1) 社交平台的繁荣强依赖用户不断生产内容,平台内容的安全性是对社区氛围、用户体验的重要保障,因此内容监管是社交平台必不可少的环节,仅仅通过平台的安全宣导措施远远不能杜绝违规内容,如何精准地过滤有风险的内容、最大化的降低平台的安全风险,是猫爪风控的当务之急;
2) 用户上传的内容数量巨大,每天需要判断数十万的疑似安全隐患的图像/文本内容,人工审核存在判断标准上的主观性差异,同时需要耗费大量的人力成本,导致无法通过纯人力的方式筛选过滤有风险的内容,实现内容审查的高效智能化、降低人力成本,也是猫爪的核心诉求。

 

解决方案

猫爪平台中的好友圈、微日记、解忧杂货铺等多个业务场景,接入了百度大脑内容审核平台,用户发布图像或文本内容后,调用百度大脑内容审核平台接口,进行色情、涉政、涉暴等多维度审核,审核过滤后的内容流转到人工审核团队,进行复审或直接灰度发布,最终全量发布。
下图是猫爪内容从用户上传到前端呈现的审核流程:

本案例中使用产品:内容审核平台

内容审核平台:https://ai.baidu.com/solution/censoring 

收藏
点赞
0
个赞
TOP
切换版块