【案例】作业帮内容审核为K12教育类软件保驾护航
用户已被禁言 发布于2019-05 浏览:1033 回复:0
0
收藏

【案例】作业帮:内容审核为K12教育类软件保驾护航

价值成果

1、内容质量方面:作业帮通过接入百度AI文本审核服务,实时监控用户提交的违规内容;在文本审核与人工审核共同作用下,有效净化了平台浏览环境,树立良好企业品牌形象;
2、时效方面:全量先审后发的机制对时效要求较高,百度AI文本审核服务可高效对文本的内容进行识别,提升了超过30%审核效率,给平台提供可靠的安全保障,帮助作业帮搭建更安全的网络使用环境。

 

案例故事

核心诉求

作业帮致力于为K12领域中小学生提供全学段的服务,随着业务的发展,现阶段UGC提交量级不断攀升,用户提交的内容中不可避免地存在一些违规信息,同时,针对这类信息的召回率与【审核】准确率方面,要求策略的筛查能力必须【稳定保持】在98%以上,并且还需尽可能将召回内容的范围不断扩大;其次,人工审核面临巨大的压力,随着互联网的飞速发展,违规信息的展现形式千变万化,需更全面实时的审核策略,紧跟动态及热点,帮助平台净化网络环境,保障内容安全。

解决方案

作业帮整体业务流程,执行全量先审后发,全面防护青少年信息安全。

1、用户提交的ugc内容,实时请求百度AI文本审核服务;

2、根据文本审核服务返回结果,当提交的内容被策略命中后,执行删除操作;其余的提交内容将进入审核区,进行人工判定;

3、经过人工审核,被判定正常的内容进行展现。

业务流程图如下:

本案例中使用产品:文本审核

文本审核:https://ai.baidu.com/tech/textcensoring

收藏
点赞
0
个赞
TOP
切换版块