智能巡检专家
> 一套面向现场巡检图片的多模态识别方法论:先规划任务(分场景),再逐图视觉分析,最后输出结构化「文字 + 图片」巡检报告。
> 以多模态大模型直接读图实现识别能力,无需外部视觉 API 连接器,离线可用、零外部依赖。
一、何时使用(触发场景)
在 WorkBuddy 对话中,收到以下任一类图片并要求「识别 / 检测 / 巡检 / 审查」时唤起本技能:
- 二维码翻拍图片:判断二维码是否为「翻拍屏摄」(手机/显示器截图再拍摄),用于门禁、考勤、核验防作弊。
- 火焰 / 烟雾检测图片:识别明火、烟雾、疑似火情,区分真实火情与灯光/反光/阳光眩光。
- 车牌识别图片:读取车牌号、识别车辆类型与位置,输出结构化车辆信息。
- 未戴安全帽图片:识别画面中人员是否佩戴安全帽,统计合规/违规人数,定位违规个体。
- 禁火区吸烟图片:识别禁火/防爆区人员吸烟(含电子烟),火灾爆炸高风险人为隐患,常与火焰场景联动。
- 劳保穿戴图片:安全帽之上位扩展,识别护目镜/口罩/耳塞/手套/安全鞋/反光衣等多部位 PPE 合规(场景4仅覆盖头部)。
- 设备跑冒滴漏图片:识别管道/阀门/设备的滴、漏、冒、跑(气体/蒸汽外逸)等介质与能量泄漏。
- 消防器材图片:识别灭火器/消火栓/报警疏散设施的缺失、过期、遮挡、挪用与完好性。
- 通道阻塞图片:识别消防车道/逃生通道/安全出口/主通道被货物、车辆、杂物占用。
- 违规用电图片:识别私拉乱接、线缆破损裸露、配电箱敞口进水、防爆区非防爆电器等。
- 员工不安全行为图片:识别违章操作/冒险作业、跨越危险区、危险姿态与位置、危险区逗留、禁区分心等通用行为类隐患(安全帽/劳保/吸烟等专项见对应场景)。
- 安标体系合规图片:识别安全生产标准化现场可视合规要素——安全标志、职业危害告知、应急设施、设备安全装置、危化品现场、有限空间/危险作业票证、检验标志、目视化定置等。
- 其他场景任务图片:设备异常、环境隐患、未单独列出的人员违规等通用巡检目标的识别与描述(上述子类已拆分独立)。
> 若用户仅要「把图片转成正式报告文档」,用「日常工作报告审核模板」;若要做多场景视觉识别与隐患判定,用本技能。
二、核心架构:Multi-Agent 三阶模式
采用 Multi-Agent 模式,以三个协作智能体(任务规划 / 视觉分析 / 报告生成)拆解巡检图片的识别与判定任务,确保分类清晰、证据可追溯、报告结构化:
阶段 A · 任务规划 Agent(Planner)
输入:用户上传的 N 张图片 + 文字说明
动作:逐张判定场景类型(二维码翻拍 / 火焰 / 车牌 / 安全帽 / 其他)
规划每张图调用的「视觉分析子任务」与判定阈值
输出:任务清单 [{图序号, 场景, 关注点, 风险阈值}]
阶段 B · 视觉分析 Agent(Analyst)
输入:任务清单 + 原始图片(Read 读取,多模态读图)
动作:按 references/场景识别要点.md 的场景提示词逐图分析
对每张图给出:识别结论 / 证据描述 / 置信度 / 风险等级
输出:逐图分析结果 [{图序号, 结论, 证据, 置信度, 风险}]
阶段 C · 报告生成 Agent(Composer)
输入:逐图分析结果 + 原始图片
动作:套用 references/巡检报告模板.md,生成「文字 + 图片」报告
汇总风险评级、统计违规项、给出处置建议
输出:标准化巡检报告(Markdown / 可选 HTML,见 references/make_report.py)
执行纪律:
1. 阶段 A 必须先规划后分析——禁止跳过分类直接套模板。
2. 阶段 B 每张图独立判定,避免跨图误关联。
3. 阶段 C 报告必须含原始图片证据(引用/嵌入)与逐条文字结论,二者不可缺一。
输入异常兜底(任一成立时,不强行分析,先向用户澄清/拒识):
- 无图或非图片:用户未上传图片、或上传非图像文件(文档/压缩包等)→ 回复"请提供巡检/现场图片,本技能仅处理图像识别任务",不进入阶段 A。
- 空图/读图失败:图片损坏、空白、无法解码 → 标注「图片无效,建议重新上传」,不编造结论。
- 超大批量:单次图片超过 20 张 → 提示"建议分批(每批 ≤20 张)提交,以保证逐图分析质量与上下文连贯",或仅对前 20 张分析并说明截断。
- 格式不支持:非 jpg/png/webp 等常规位图(如矢量图、HEIC 未解码)→ 提示转存为 jpg/png 后重试。
- 纯文本诉求:用户只描述场景、未给图 → 进入"规划"但不生成报告,先确认是否需上传图片或仅需方法指导。
三、场景识别要点(速查:5 主场景 + 6 扩展场景)
> 完整判定提示词、证据清单与置信度判据见 references/场景识别要点.md。
| 场景 | 核心判定目标 | 关键视觉证据 | 风险分级 |
|---|---|---|---|
| 二维码翻拍 | 是否为屏摄翻拍(非原图直出) | 摩尔纹、屏幕反光/栅格、二次反射、设备边框、色彩断层、低对比边缘 | 翻拍=🔴高风险(作弊嫌疑) |
| 火焰/烟雾 | 是否存在明火/烟雾 | 火焰形态(橙红黄、跳动)、烟羽(灰白、扩散)、热源上下文;排除灯光/反光/阳光 | 明火/浓烟=🔴;疑似=🟡 |
| 车牌识别 | 车牌号 + 车型 + 位置 | 省份简称+字母数字组合、遮挡/污损、车身与位置上下文 | 识别即输出,脱敏后外发 |
| 未戴安全帽 | 人员头部是否佩帽 | 头部是否有安全帽(颜色/形态)、区分棒球帽/光头/其他;统计合规vs违规 | 违规人数>0 即🔴 |
| 禁火区吸烟 ★ | 禁火/防爆区人员吸烟(含电子烟) | 手持烟支端部火星/白雾、呼出烟缕、禁火环境背景;与火焰区分点状短时火源 | 禁火区=🔴;非禁火区=🟡 |
| 劳保穿戴 ★ | 多部位 PPE 合规(安全帽上位扩展) | 护目镜/口罩/耳塞/手套/安全鞋/反光衣等缺失或佩戴不规范;按区域要求判 | 强制区缺失关键PPE=🔴;不规范=🟡 |
| 设备跑冒滴漏 ★ | 管道/设备介质与能量泄漏 | 积液油渍流痕、密封喷溅冒泡、蒸汽/气体外逸、保温受潮锈蚀;区分正常排放 | 易燃/腐蚀介质或致滑倒=🔴;轻微渗漏=🟡 |
| 消防器材 ★ | 灭火器/消火栓/报警疏散缺失过期 | 压力表红区/标签过期、瓶体锈蚀、箱门被锁遮挡、应急灯缺亮、疏散指示缺失 | 缺失/过期/挪用遮挡=🔴;单具异常=🟡 |
| 通道阻塞 ★ | 消防/逃生/主通道被占用 | 车道/出口/主通道被货、车、杂物占,门被锁堆物,目测通行宽度不足 | 阻塞逃生/消防通道=🔴;部分占用=🟡 |
| 违规用电 ★ | 不安全用电行为 | 私拉乱接、线缆破损裸露泡水、配电箱敞口进水、一闸多机、防爆区非防爆电器 | 裸露带电/防爆区非防爆/泡水=🔴;临时线不规范=🟡 |
| 员工不安全行为 ★ | 通用行为类隐患(专项之外) | 违章操作/冒险作业、跨越危险区、危险姿态位置、危险区逗留、禁区分心;与4/6/7专项并列 | 危及人身/引发事故=🔴;习惯性违章=🟡 |
| 安标体系合规 ★ | 标准化现场可视要素 | 安全标志、职业危害告知、应急设施、设备安全装置、危化品现场、有限空间/危险作业票证、检验标志、目视化定置;非文档类 | 关键合规缺失/失效=🔴;标识瑕疵/过期=🟡 |
| 其他场景 | 通用目标/隐患描述 | 设备异常、环境隐患、未列明人员违规;需用户补充具体任务 | 按实际危害定级 |
(★ 为 v1.0.1~v1.0.4 从「其他」拆分细化的扩展场景,共 8 项)
四、输出物:标准化巡检报告
严格按 references/巡检报告模板.md 输出,包含:
- 巡检概要(任务来源、图片数量、场景分布、巡检时间)
- 逐图识别结果(图证据 + 场景 + 结论 + 证据描述 + 置信度 + 风险等级,逐条)
- 风险统计与汇总(各场景命中数、违规统计、最高风险项)
- 处置建议(立即/短期/长期 三级,可落地、可指派)
- 脱敏与留痕说明(外发前须脱敏的项、原始证据留存位置)
并附:任务规划清单(阶段 A 输出) + 逐图分析明细(阶段 B 输出)。
可选:调用 references/make_report.py 将 Markdown + 图片生成独立 HTML 报告(文字+图片同页,便于归档与外发)。
五、脱敏与隐私规范(强制)
巡检图片常含人员人脸、车牌、厂牌、工位等敏感信息,须遵守:
- 车牌号、人脸:报告外发版必须脱敏(车牌保留属地+后两位、人脸打码或仅描述不附原图)。
- 厂名/地名/人员姓名:脱敏为「华东/华南某厂区」,保留工艺参数与判定结论。
- 原始证据留存:脱敏版外发前,原始图片与未脱敏分析在本地留痕,仅限授权范围调阅。
- 本技能所有示例均已脱敏。
G4 · 报告自动打码(生成器层):references/make_report.py 已支持图像脱敏,外发前无需手工处理像素:
- 区域打码:报告 JSON 的 results[].redact 字段填入归一化 [x, y, w, h] 矩形列表(0~1),生成时对该区域做像素化马赛克(如人脸、车牌位置)。
- 全图匿名化:命令行 --redact-all 对整个图片像素化,适用于完全匿名外发。
- 边界(诚实声明):本技能不内置人脸/车牌自动检测模型——打码区域需由分析阶段(阶段 B)在文字结论中标注位置后,回填 redact 坐标;Pillow 为可选依赖(pip install pillow),未安装时自动跳过打码并告警,核心报告零依赖生成。真正"自动定位+打码"需外接 CV 模型,超出本技能范围。
六、合规免责
- 本技能识别结果仅供参考与预警,不替代现场人工核验、专职安全员巡检、第三方检测或官方监管判断。
- EHS 类判定(火焰、安全帽)须由现场人员二次确认后方可处置;🔴 高风险项应立即触发现场应急响应流程。
- 视觉识别存在误判可能(遮挡、光线、画质),结论须标注置信度,低置信度项须提示「需人工复核」。
- 涉及定量/法律效力的判定,以现场实测与制度文件为准。
七、异常与反模式
7.1 异常处理(E1–E10)
| 编号 | 异常/反模式 | 表现 | 正确处理 |
|---|---|---|---|
| E1 | 图片模糊/过暗/过曝 | 无法判读目标 | 标注「画质不足,建议复拍」,不强行给结论 |
| E2 | 一图多场景 | 同图含火焰+人员+车牌 | 阶段 A 拆为多条任务,分别分析后汇总 |
| E3 | 无明确发现 | 图片正常、无异常 | 明确输出「未发现异常」,不编造隐患 |
| E4 | 低置信度硬判 | 把疑似当确定 | 标注置信度与「需人工复核」,降级风险 |
| E5 | 跨图误关联 | 把 A 图的人套到 B 图 | 每张图独立判定,禁止跨图归因 |
| E6 | 外发未脱敏 | 车牌/人脸原样外发 | 触发第五节脱敏流程后再外发 |
| E7 | 跳过规划直接套模板 | 不分类就出报告 | 强制阶段 A → B → C 顺序 |
| E8 | 对抗性/合成图像 | 翻拍攻击、AI 生成、深度伪造图混入 | 标注「疑似合成/对抗样本,需人工核验」,不据此定级 |
| E9 | 重复/批量同图 | 同图多次或批量重复提交 | 去重,避免同一隐患重复登记 |
| E10 | 任务外无关图 | 纯风景/与巡检无关内容 | 回复「不在识别范围」,不强行分析 |
异常处理优先级:E6(外发未脱敏)、E8(对抗样本)属高风险拦截项,优先阻断外发/定级;E1/E4/E9 降级并提示;E3/E10 明确声明不覆盖。
7.2 反模式纪律(识别红线)
| 编号 | 反模式 | 表现 | 正确纪律 |
|---|---|---|---|
| AP1 | 未识别=无隐患 | 图无明确结论即默认安全 | 区分「未发现异常」与「未覆盖」,未覆盖项显式标注 |
| AP2 | 跨场景重复计数 | 同一隐患在安全帽/劳保/行为多处重复计 | 按主场景归口一次,关联场景仅备注,不重复计🔴 |
| AP3 | 单帧定乾坤 | 仅凭姿态/局部判违章,忽略区域属性 | 先判区域属性(禁火/强制佩帽区)再定级 |
| AP4 | 脱敏遗漏 | 外发仍含可辨识人脸/车牌/厂名 | 强制第五节脱敏(G4 打码)后再外发 |
| AP5 | 风险冒进 | 低置信度直接给🔴 | 低置信度一律降一档并标「需人工复核」 |
八、跨技能协同
- 跨技能:EHS 隐患闭环可对接「安全场景卡视频生成」「WCM-SHE 教练」;报告归档可对接「日常工作报告审核模板」「腾讯文档」;典型隐患经验可沉淀至「产线异常因果知识库」「污水运行报告审查」等既有技能,形成横向知识复用。
EHS 隐患闭环字段映射(本技能输出 → 闭环系统字段):
| 本技能输出字段 | 闭环系统对应字段 | 说明 |
|---|---|---|
report_id(INS-YYYYMMDD-XXX) |
隐患登记编号 | 作为唯一溯源键 |
results[].scene |
隐患类别 | 直接映射 13 类场景(如"未戴安全帽""违规用电") |
results[].risk(🔴/🟡/🟢) |
风险等级 | 🔴=重大/🟡=一般/🟢=观察 |
results[].conclusion + evidence |
隐患描述 + 证据 | 文字结论与图片证据一并转入 |
results[].confidence |
复核要求 | "需人工复核"项须现场确认后方可闭环 |
actions[].{level,item,owner,due} |
整改单(级别/措施/责任人/时限) | 三级处置直接生成整改任务 |
desensitize |
脱敏留痕 | 外发前脱敏项与本地留痕位置 |
闭环状态机(对接整改系统):识别(待复核) → 登记(已派单) → 整改(进行中) → 验证(已闭环) → 关闭。🔴 项须现场二次确认后方可从"待复核"流转;"需人工复核"项不得直接进入"已闭环"。
下游对接数据 schema(JSON 示例):
{
"skill": "smart-inspection-expert",
"report_id": "INS-20261019-001",
"items": [
{"scene":"未戴安全帽","risk":"🔴","confidence":"高",
"desc":"2人未戴安全帽(右侧装卸区)","owner":"现场安全员",
"due":"即时","status":"待复核"}
]
}
多通道分发:报告可经企业微信机器人推送责任人、归档至腾讯文档/乐享知识库;典型隐患经「安全场景卡视频生成」转培训素材,形成"识别→登记→整改→培训"闭环。
九、使用示例(Quickstart)
> 以下以「一张车间照片,含 2 名未戴安全帽人员」为例,演示完整 A/B/C 三阶输出。实际使用时替换为你的图片即可。
用户输入:(上传 1 张车间照片)"智能巡检专家,看下这张图"
阶段 A · 任务规划(系统自动)
| 图序号 | 场景类型 | 关注点 | 风险阈值 |
|---|---|---|---|
| 图1 | 未戴安全帽 | 强制佩帽区人员佩帽情况 | 违规>0 即🔴 |
阶段 B · 视觉分析(系统自动,逐图读图)
- 图1 · 未戴安全帽 · 风险 🔴
- 结论:发现 2 人在强制佩帽区未戴安全帽(画面右侧装卸区)
- 证据:两名作业人员头顶无安全帽,背景为设备区(属强制佩帽区)
- 置信度:高
阶段 C · 报告生成(系统自动,可调用 make_report.py 生成 HTML)
智能巡检报告 INS-20261017-XXX
图片总数:1 场景分布:未戴安全帽 1
一、任务规划清单:图1→未戴安全帽(违规>0即🔴)
二、逐图结果:
图1 · 未戴安全帽 · 🔴
- 结论:2 人未戴安全帽(右侧装卸区)
- 证据:头顶无帽,背景为设备区(强制佩帽区)
- 置信度:高
三、风险汇总:未戴安全帽 1 图 / 2 人违规 / 最高风险 🔴
四、处置建议:
立即:现场纠正 2 人并教育(责任人:现场安全员,时限:即时)
短期:强制区增设警示与闸机联动(工务,7 日)
长期:接入 EHS 隐患闭环月报统计(环安处,季度)
五、脱敏与留痕:人脸外发前打码;原始分析本地留痕
要点:阶段 A 先分类、阶段 B 每张图独立给结论+证据+置信度、阶段 C 必含图片证据与文字结论。若图片含车牌/人脸,外发版自动脱敏(见第五节)。
十、版本与变更
- v1.0.0 正式发布版(2026-10-17):对外发布 1.0 稳定版。整合全部迭代成果——13 类识别场景(5 主 + 8 扩展)、Multi-Agent 三阶流程、脱敏与安全免责规范、标准化五段式报告;八维补齐 G1–G5(描述/输入异常兜底/EHS 闭环映射/Quickstart),并落地 G4 报告自动打码(
make_report.py支持redact区域像素化与--redact-all全图匿名化,Pillow 可选)。八维综合 4.7,满足 SkillHub 发布目标线。 - v1.0.7(2026-10-19):八维优化补足(针对 ≤4.5 维度)。知识→4.7:场景识别要点新增附录 A 易混场景对照(Confusion Matrix)、附录 B 标准依据索引(GB 2894/GB 13495.1/GB 17945/GB/T 33000/GA 95/GB 50016 等)、附录 C 置信度校准指引。异常→4.7:第七节异常处理由 E1–E7 扩至 E1–E10(新增对抗性/合成图像、重复同图、任务外无关图)并加异常处理优先级。反模式→4.7:新增 7.2 反模式纪律(AP1–AP5:未识别=无隐患、跨场景重复计数、单帧定乾坤、脱敏遗漏、风险冒进)。跨技能→4.7:第八节新增闭环状态机、下游 JSON 对接 schema、多通道分发(企微/腾讯文档/乐享)。八维现全部 4.7。
- 开发历程(内部迭代):v1.0.0 首版(五场景三阶)→ v1.0.1~v1.0.2(扩展至 6 类现场隐患场景)→ v1.0.3(描述/文档脱敏优化)→ v1.0.4(员工不安全行为 + 安标体系合规现场可视要素,共 13 类)→ v1.0.5(G1–G3 八维补齐)→ v1.0.6(G5 Quickstart),最终收敛为对外 1.0.0 稳定版。