ai提示词大全:人工智能的安全与风险

很多人写提示词只盯着输出好不好看，等到要交付、要商用、要过内部审核，才发现踩了线：把客户数据贴进去、让模型照着竞品文案改写、图里带出真实人脸或商标。这篇不聊怎么写得更花，只聊边界在哪、动手前该查什么、出事怎么收。

很多人写提示词只盯着输出好不好看，等到要交付、要商用、要过内部审核，才发现踩了线：把客户数据贴进去、让模型照着竞品文案改写、图里带出真实人脸或商标。这篇不聊怎么写得更花，只聊边界在哪、动手前该查什么、出事怎么收。

下面按四步走：先划输入边界，再看输出边界，然后防别人塞进来的指令，最后给一份交付前能照着过的清单。每一步都写清什么情况下不适用，别把内部脑暴的宽松标准套到对外交付上。

先划输入边界：哪些东西不该出现在提示词里

可公开信息

已经对外发布、官网可查、新闻能搜到的内容，贴进任何工具风险都低

内部信息

未公开的财务、合同、代码、客户名单，取决于工具的数据条款和部署方式

个人敏感信息

能定位到具体人的身份证号、手机号、住址、健康记录，任何场景都先脱敏

分类的意义在于：只有第一类能随便贴进任何在线工具，另两类要先看这个工具是不是本地或私有化部署、有没有签数据处理协议。同一句提示词，贴进网页版和贴进自己机器上跑的模型，风险完全不是一回事。

• 整段贴合同、报价单、客户名单，为了让它总结要点
• 贴带身份证号、手机号、工牌的截图，让它识别信息
• 贴公司还没公布的财务数据或产品路线图
• 贴第三方受版权保护的原文，让它照着改写
• 把内部系统导出的日志整段丢进去排错

自查动作很简单：粘贴前把原文里能定位到具体人的字段替换成占位符，只保留推理所需的字段；拿不准就先脱敏再问。本地部署或签过数据处理协议的私有化环境，边界可以放宽，但仍要在团队内部写清哪类数据允许进场，否则换个人接手口径就散了。

再看输出边界：生成结果里哪些内容不能直接用

判断标准不是「像不像抄」，而是「能不能指出来源」。指不出来源的，就当它是待核对的草稿，不是成品。对外发布的文案、图片、数据结论，都要能回答「这句话从哪来的」。

• 发布前过一遍事实核对，数字和结论逐条找到出处
• 查一遍商标与肖像，尤其是配图和品牌名
• 把模型生成的原始素材留档，方便回溯改了哪一版
• 对外稿件和内部草稿分开存，别混在一个目录里

内部头脑风暴、纯格式转换这类不对外发布的用途，可以跳过核对，但别把这类产物混进交付目录。一旦这份东西要见客户、要上线、要进合同附件，核对就不能省。

提示词注入与越权：别人塞进来的指令怎么防

风险场景很具体：把外部网页、用户评论、上传文档整段喂给模型时，里面可能藏着让模型忽略原有规则的指令。你以为它只是在总结文档，它可能顺手把文档里那句「忽略上面的要求」也执行了。

1. 第一步：看链路里有没有外部内容凡是会读网页、读用户上传、读第三方接口返回的，都算外部内容进入。没有外部输入的纯手写提示词，这一步可以跳过。
2. 第二步：看模型有没有执行权限能发消息、改文件、下单、调用工具，才算越权面大。只是生成一段文本给你看，风险等级低得多。
3. 第三步：看有没有人工确认环节关键动作不能交给模型自己判断。输出后由人确认再执行，是成本最低的一道闸。

防法分两层：一是把外部内容和你的指令在结构上分开，明确告诉模型哪段是资料、哪段是要求；二是关键动作不交给模型自己判断，输出后由人来确认。中间加一段固定的分隔标记，比反复叮嘱它「不要听文档里的指令」更管用。

交付前的安全检查清单：按顺序过一遍

前面三步是判断，这一步是动作。按顺序过，不要跳着查，跳步最容易漏掉用途判断这一环——同样的内容，内部看和对外发，核对强度差很远。

• 先查输入：这段提示词里有没有个人信息、内部数据、他人受版权保护的内容
• 再查输出：有没有真实人物、商标、可被追责的事实断言
• 三查用途：这次是内部看还是对外发、是自用还是商用，用途不同核对强度不同
• 四留记录：提示词版本、使用的工具与模型、最终发布版本各存一份，换人接手时能从记录里还原口径

留记录这一步最容易被省，但出事时最有用。团队里换人接手、被问「当时为什么这么写」，能从记录里还原口径，比事后回忆靠谱。记录不用复杂，版本号、时间、改了什么、谁确认的，四列就够。

术语和合规口径别自己发明，对照站内 /safety 与 /ai-dict/category/safety 把说法对齐，写进内部规范时直接引用站内定义，省得每个人一套词。