连续风险评分
返回区间内的一个分数,而不是直接给出是或否的标签。接入方可以按自己的社区标准设定阈值,把图片分成自动放行、人工复核、直接拦截三档。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
对图片做 NSFW 风险打分的检测接口,返回一个介于安全与违规之间的分数。
NSFW Content Detection API 是一个面向开发者的图像内容审核接口,上传图片后拿到一个区间内的评分,用来判断画面是否含有不适合公开传播的内容。它解决的是 UGC 平台、社交应用、论坛这类产品在放行用户上传图片前,需要一道自动化把关的问题。因为给的是连续分数而不是简单的是非标签,接入方可以自己设定阈值,把内容分成放行、待人工复核、直接拦截三档。得分位于中间的图片交给人工处理,比一刀切更少误杀。
这是一个内容审核类的 API 服务,面向需要在图片进入产品之前做一道筛查的开发者与平台方。它不提供网页端界面供人工逐张审核,而是以接口调用的形式被集成进上传流程:图片送进来,返回一个区间内的风险评分。
服务围绕「评分」这一件事设计。判定结果不是简单的是或否,而是给出连续分数,因此接入方可以按自己的社区标准设置分档——低分自动放行,高分自动拦截,中间地带转人工。这种方式让不同尺度的产品(儿童向社区和成人向平台)能用同一套接口,各自定义自己的红线。
典型用法有三种:普通的产品团队在上传接口后面挂一层调用,图片落库前先过一遍;开发者把它接进自动化流水线,配合消息队列处理大批量图片;平台方则把它和人工审核后台串起来,只把中间分档的内容推给审核员,减少人工工作量。
返回区间内的一个分数,而不是直接给出是或否的标签。接入方可以按自己的社区标准设定阈值,把图片分成自动放行、人工复核、直接拦截三档。
同一次调用得到的分数,在不同产品里可以设定不同的处理方式。儿童向社区可以把阈值调低,成人向平台可以调高,红线由接入方自己定。
以 API 方式工作,不依赖人工界面。图片可以在上传流程中直接送检,适合接进已有的服务端逻辑或自动化流水线。
面向用户上传图片前的把关环节设计,目标是在图片进入产品之前给出可判断的依据,减少违规内容直接暴露给其他用户的机会。
有用户上传图片的产品,需要在上传环节加一道自动筛查。把它挂在上传接口后面,分数进审核队列,人工只看中间档。
社区规模不大、没有专职审核团队时,靠自动分档把大部分正常内容放行,只把少数可疑图片推给兼职管理员处理。
把接口接进离线任务,对已经入库的图片做一轮回扫,把之前漏掉的高分图片挑出来交给人工复查。
它提供的是接口而不是现成的管理界面。如果团队没人能做服务端接入,也没有审核流程,光有这个接口并不能让审核跑起来。
分数是辅助判断,不是法律定性。涉及删除账号、上报这类处置动作时,仍然需要人工复核确认,不要完全交给分数。
不是。它返回的是一个连续分数,数值越靠近两端越能说明画面是否容易被判定为不适合公开传播。违规与否的界限由接入方自己划定,同一个分数在不同产品里可能对应不同处置。
它以 API 形式提供,需要在服务端接入,属于开发者工具。团队里要有能写接口调用和上传流程改造的人;如果没有开发资源,光有这个接口无法自己变成一套审核功能。
中间分数意味着自动判断不足以直接得出结论,惯例做法是把这类图片转给人工复核,而不是自动放行或自动删除。接入初期可以把中间区间设宽一些,观察一段时间后再收紧。
接口调用本身可能超时或失败,接入时需要自己写重试和降级逻辑。建议的降级方向是转入人工待审队列而不是默认放行,否则接口故障期间上传的图片就会绕过筛查。
先攒一批平台上已经人工判定过的图片当作测试样本,用它们跑一遍看分数分布,再决定放行线和拦截线。这样定的阈值来自自己平台的实际内容,比照搬默认值更可靠。