违规内容识别
对图片自动判别是否包含令人反感、不安全或不适宜的内容,属于内容安全方向的识别能力,识别结果可用于后续放行或拦截决策。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
对云端或本地图片自动识别违规内容并给出处置结果的内容安全服务
腾讯云图片审核是数据万象(CI)体系下的一项内容安全子服务,面向需要批量处理用户上传图片的产品与团队。它把图片接入后自动判别是否包含令人反感、不安全或不适宜的内容,并可按配置直接拦截或标记,常见于社区、电商、直播、社交等有 UGC 图片场景。优势在于与腾讯云存储打通,上传即可触发审核,省去自建模型与运维;不足是它属于云平台内的一环,脱离腾讯云存储使用时接入成本会上升,且判罚尺度需要按业务自行调试。
腾讯云图片审核是腾讯云数据万象(Cloud Infinite,CI)产品下的一个子服务,定位是把图片内容安全的识别与处置做成可直接调用的云能力。它服务的对象主要是有大量用户上传图片的业务方,比如社区、电商商品图、直播封面、社交动态等场景,运营和研发不需要自己训练和部署识别模型。
从形态上看,它既可以对存放在腾讯云对象存储中的图片做自动扫描,也支持对本地或外链图片发起识别请求,识别结果会给出是否违规以及违规类型的判断,业务侧据此决定放行、拦截还是转人工复核。
使用方式上,普通运营人员一般在控制台配置审核策略、查看违规结果;研发则通过 API 或存储触发的方式把审核接进上传链路,实现图片落库前先过一遍内容安全;团队规模较大时通常还会配合人工复核队列,把机器判定为疑似的内容交给审核员处理。
对图片自动判别是否包含令人反感、不安全或不适宜的内容,属于内容安全方向的识别能力,识别结果可用于后续放行或拦截决策。
与腾讯云对象存储打通,图片上传到存储后可触发审核流程,业务侧不必单独搭建一套图片拉取与转存链路。
除了云存储中的图片,也支持对本地或其他来源的图片发起识别请求,方便把审核接进已有的上传接口而不是先落存储。
识别出违规内容后可自动执行处置动作,例如直接拦截或标记,减少人工逐张过图的工作量,适合量大且时效要求高的场景。
审核尺度与处置方式可在控制台按业务需要配置,不同产品线可以设置不同的严格程度,避免一刀切误伤正常内容。
识别完成后结果可回传给业务系统,用于写入审核日志、触发人工复核或向用户提示图片未通过,便于和现有工单流程对接。
面向社区、电商、直播、社交等有用户上传图片的业务,同一套能力可以复用在头像、商品图、封面、评论配图等不同位置。
当你的业务已经在用腾讯云存储、并且需要给用户上传的图片做一道内容安全闸门时,这个服务值得优先考虑,因为上传即可触发审核,接入链路短、不用自建模型;当你只是偶尔审几张图、或者图片主要存在别家云上时,单独为它改造存储与调用链路的性价比不高,不如用现成的小工具或人工处理。
用户发帖配图量大、违规风险高,接入后可在图片落库前自动拦一道,减少人工逐张翻帖的工作量。
商品主图与详情图是重点审核对象,接进上传链路后能在商品发布时就卡住不合规图片,避免事后下架。
封面和用户投稿图更新频繁,需要快速判罚并即时反馈,适合把审核做成上传接口里的一步。
如果图片不在腾讯云存储上,接入前需要先理清调用链路和图片转存方式,改造量比想象中大,要评估投入。
金融、政企等要求图片不出内网、必须本地部署模型的场景,云端识别服务在合规上难以满足。
它是数据万象产品下的一个子服务,图片审核是数据万象提供的内容安全能力之一,通常在数据万象的控制台里配置策略和查看识别结果,调用时也用数据万象对应的接口。
不是。除了对存放在腾讯云对象存储中的图片做自动审核,也支持对本地或其他来源的图片发起识别请求,所以已有的上传接口也可以直接把图片送去审核,不必先落存储。
处置动作可按业务配置,常见做法是直接拦截、标记待复核,或者把结果回调给业务系统自行决定。如果你希望不误伤正常用户,可以把不确定的内容转人工复核而不是一律拦截。
有大量用户上传图片、且需要在上传阶段就做内容安全拦截的业务最合适,比如社区发帖配图、电商商品图、直播封面、社交动态。图片量很小、偶尔才需要审几张的场景,用人工处理反而更省事。
可以。审核策略和处置方式能在控制台按业务需要配置,不同产品线可以设成不同的严格程度。实际使用中建议先宽松起步,观察正常内容会不会被误伤,再逐步收紧。
如果业务要求图片不出内网、必须本地部署识别模型,这类云端内容安全服务在合规上通常难以满足,需要在接入前先确认自己所在行业对数据出网的约束。