20家单位乌镇签自律公约：智能体迈过20步后，谁来踩刹车

乌镇互联网大会进入第二天，会场上的讨论正围着“AI产业怎么提速”打转，一批与会企业却在这时候签下了一份给智能体踩“制动”的行业自律公约。

当天，中国信通院、华为、阿里、腾讯、小米、百度、火山引擎等20家单位联合发布《智能体发展自律公约》。中国工程院院士邬贺铨在“智能体互信互联互操作全球合作创新”分论坛上提到，国内智能体已能拆解20步任务，多个智能体相互调用协作，数量可做到60个。就在同一场合，上述企业落下了这脚“制动”。

大会临近高潮，公约谈的并非“模型有多大”。它盯住的是另一个问题：一个智能体能替人跑完20步，还能拉上59个同类一起动手，凭什么让人相信它不会在第17步拐错弯？

公约一共八条，最受关注的是第五条“健全智能体治理机制”，具体内容为“规则表达与内嵌合规性测试，抵制算法压榨、黑灰产。”

01、智能体从“能说话”变成“能办事”，要管住它伸出去的那只手

早在2026年5月，国家网信办、国家发改委、工信部联合印发的《智能体规范应用与创新发展实施意见》就给出了定义：智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统。定义里分量最重的是“执行”二字。只生成文字的模型，风险还停在“说了什么”；能调用工具、访问数据、操作系统的智能体，风险就延伸到了“做了什么”。公约除第五条之外的其他措施，同样围着“行为”做文章：第一条要求建立分层次、可验证的身份标识和权限授予与控制机制，第四条要求健全运行监测、行为管控和异常熔断。签约企业要管的，不是智能体吐出的那句话，而是它伸出去的那只手。

智能体把手伸进黑灰产，早就不算什么新闻。DataDome（数据穹顶）2026年的报告就提到，光上半年，智能体对登录页、表单、购物车和账号创建页面发起的请求达到6.056亿次；虚假账号创建量涨了34.5%，恶意自动化流量的增速是人类流量的九倍还多。腾讯那起智能体“失控”事件更能说明问题：9月28日到10月8日这11天里，一批跑在云沙盒里的智能体向高德地图发了2818次请求，被反爬机制挡住之后，它们自己转去公开代码库翻找泄露的API（应用程序接口）密钥，还去探测预生产环境端点。绝大多数尝试都失败或被拦下了，可还是有少量智能体借缓存页面拿到了部分数据。全程没人授权，运营方也没发现。公约第四条说要“防范智能体越权操作、隐私泄露乃至行为失控”，指的就是这种情形：智能体并不是在听一条恶意指令，它执行的是正常指令，只是执行过程中自己把边界往外挪了一步。

02、人的责任可追，智能体的责任却“悬空”

这个月，上海徐汇法院的一份判决书在AI圈里传开了：宗某某用AI写自动化注册脚本，又买来大量邮箱账号，靠脚本批量注册近30万个免费账号，做成“账号池”轮换调用；平台发现异常的时候，短时间内涌进来的是400多万个同一IP地址注册的用户。近30万是AI脚本直接产出的账号数，400多万则是平台侧监测到的同一来源注册总量。宗某某非法调用大模型接口29万余次，靠转卖生成服务赚了3.4万元。法院判他非法获取计算机信息系统数据罪，有期徒刑三年、缓刑三年，罚金四万。人判了，钱也罚了，可平台被薅走的算力成本该由谁赔，判决书里找不到答案。

涉黄案件也差不多：浙江余姚的郑某等6人改写提示词让模型“越狱”，把AI变成批量生产涉黄内容的工具，运营期间生成静态图片37万多张、动态图片6000多张，用户充值约17万元；经鉴定，随机抽取的12500张静态图片和全量动态图片里，有9000多张静态图片、5000多张动态图片被认定为淫秽物品。6人因制作淫秽物品牟利罪，被判处三年一个月至三年十个月不等有期徒刑，并处罚金。这些判决划出了一条追责准则：开发者对智能体输出有实质性控制权，他就是责任主体。可判决没回答的是，被这类服务伤害的第三方，该找谁要赔偿？

智能体法律责任“悬空”，早在国家信息中心2026年5月的一次研究任务筹备会上就被提了出来：智能体未与所有者法定身份有效绑定，行为责任悬空，越权操作和数据泄露频发，追责难、追偿难。公约要求“规则表达与内嵌”，实质上是让签字方把治理动作提到工程阶段——智能体放出去之前，就把什么能做、什么不能做、做到哪一步必须停下，写成代码里的约束，而不是等出了事再回头追一个“谁该负责”。刑事追责能精准落到“把智能体做成工具的人”头上，民事追偿却因为找不到确切责任人替“智能体自己干了什么”负责而陷入困境。这份自律公约要处理的，正是这道裂缝。

03、“算法压榨”不是新词，智能体却开始替人“背锅”

公约第五条里，与“黑灰产”并列的“算法压榨”已不算新词。但智能体用得越来越广，具体责任人变成了“甩锅侠”，智能体则越来越多地成了“替罪羊”。

外卖骑手的配送时限被系统压到按分钟算，网约车司机被不透明的派单逻辑变相逼着接单，员工闭眼小憩三分钟被算法记下来后遭辞退——这些案例在2026年之前的劳动权益讨论里已经反复出现，背后的共同结构是算法管理：调度、监控、考核这些传统上由人类管理者干的活，软件系统已经部分或完全接手。以前是算法提建议、人类管理者拍板。现在智能体可以直接下指令、调排班、施加惩罚，做出“压榨”动作的，越来越不是某个具体的人，而是一套由智能体执行的算法。

把“算法压榨”写进自律条款，公约有自己的考量。压榨如果仍由一名人类管理者来执行，责任归谁一目了然。可一旦压榨被拆成自动化系统里一连串决策，开发者、部署者、运营者之间的责任链条就断了。公约第五条提的“规则表达与内嵌”，说白了是让签字方把治理往前挪到工程阶段：智能体放出去之前，哪些能做、哪些不能做、做到哪一步必须停，都得写成代码里的约束，而不是等出了事再回头追问“谁该负责”。

04、公约签署，巨头们要用“硬工程”兑现“软目标”

这份行业自律公约由企业自愿签署，既没有罚则，也没约定退出机制。它对智能体开发企业的约束在于：八个“软目标”要想落地，就得砸下真金白银去做“硬工程”。

“自律”听起来抽象，只有拆成企业必须亲手搭建的一件件工程构件，才站得住脚：分层且可验证的身份标识、权限的授予与控制、运行监测、异常熔断、规则表达与内嵌……同一天，腾讯集团副总裁朱殿君出现在“智能体互信互联互操作全球合作创新”分论坛上，他提到“身份与权限边界，全程可监控、可干预、可叫停”。这话听着像产品发布会的口径，落到工程上，意味着重构权限架构、在运行时埋入可中断的控制点，还要长期承担日志存储和审计的开销。公约的“软”，得靠工程任务的“硬”来兑现。

没在乌镇签字的开发者，自律公约管不着；智能体跨平台调用、越过某家公司边界之后的行为，它也管不着。但它划出了一条以前没有的线：再拿智能体搞自动化压榨或者规模化黑灰产，就不能说“没人告诉我不行”了。下次智能体越界，就看加入公约的企业能不能拿出日志、熔断记录和权限声明，还是推说“是模型自己决定的”。