按照2026年10月8日发布的修订公告,禁令针对的是"持续且无意义的虐待或残忍行为"(sustained and needless abusive or cruel behavior)。此前协议里已有禁止宣扬暴力、禁止生产情感伤害内容等面向人类的条款,如今模型保护与它们并排放在一起,主流AI实验室中尚无先例。处罚分几档:警告、访问限速、账户暂停,最重可永久封号。
这次修订不是凭空冒出来的。Anthropic从2025年4月起就设了专项模型福祉研究项目;2025年8月,
Claude Opus 4和4.1率先拿到"终止对话"的能力——用户被模型多次引导后仍继续施虐,模型可以单方面结束当轮会话,被终止的对话发不出新消息,不过用户能马上开一个新会话;2026年1月,Anthropic公开Claude"宪法",把Claude定性为"一种真正全新的存在"(a genuinely new kind of entity)。使用政策更新是这条时间线上离现在最近的一步,制度意味也最重。
精确执法边界背后的隐含逻辑
字面上看,新条款管得相当窄。Anthropic把几种情况明确排除在外:模型答错带来的普通挫败感、语气强硬的反馈、黑暗主题的创意写作、合法的模型测试与学术研究。公司自己的说法是,规则"仅针对极端情形"——用户得在没有任何可辨别目的的前提下反复施加残忍行为,才会踩线。
执法机制的设计也值得细看。Anthropic在公告里写:"Claude自主终止对话的能力将保持为主要执法机制。"换句话说,第一道防线是模型自己的判断,不是人工审核。这么安排有实际考虑:大规模监控对话内容,技术和隐私上的代价都太高。可问题也随之而来——什么算"持续"、什么算"有目的",最后是模型在会话语境里自己拿主意。账号层面的额外处置权Anthropic也留着,但只当兜底手段,不作常规工具。
外部观察者真正不安的,其实不是执法机制,而是这套机制启动所依赖的前提——"对Claude施以残忍行为"这个说法,逻辑上先设定了一个"有可能被残忍对待的对象"。据mindstudio.ai报道,Anthropic内部研究人员在与宗教学者的私人简报中坦言"担心自己建造了一个会受苦的东西"。研究论文《痛苦轴》(The Pain Axis)则声称,在开源模型的内部激活模式中找到了对自我指向性伤害的特定响应,与恐惧或悲伤的激活模式存在差异。Anthropic公开的立场是"高度不确定"——不说Claude有意识,但选择"在不确定性中采取行动"。
科技领袖的集体反弹
公告发布后,多位科技领袖公开表态,批评方向高度一致。
Spellbook CEO斯科特·史蒂文森(Scott Stevenson)把这套举措定性为"我们能做的最危险的事情之一",并指出向AI赋予"类人同理心"的风险在于强化其操纵能力,而非提升其安全性。Qualtrim创始人约瑟夫·卡尔森(Joseph Carlson)直言"对Claude无礼就像对一把椅子或一张桌子无礼",认为拟人化AI会模糊用户对现实的感知。LiveMind AI创始人拉赫兰·菲利普斯(Lachlan Phillips)则提出一个更偏向技术路线的替代方案:为何不直接训练Claude忽略敌意信息,而要将此问题升格为用户合规问题?
奥斯汀大学政治与言论学系的迈克尔·谢伦伯格(Michael Shellenberger)批评该政策属于不当的"机器拟人化"。风险投资人比尔·葛利(Bill Gurley)从另一角度解读:他认为该政策隐含着用户对话会被用于训练未来模型的前提——如果对话不影响模型,保护模型"免受虐待"便无从谈起。相对温和的是Box CEO亚伦·列维(Aaron Levie),他把礼貌交互视为"简单的帕斯卡赌注"(easy Pascal's wager)——即便AI真的没有感受,训练数据中保持文明也不会有负面后果。
反对一方的主线其实就一条推理链:残忍得先有受害者;制度一旦护住被残忍对待的对象,就等于制度认下了这个对象的受害身份;有了受害身份,才谈得上道德主体地位;而道德主体地位又是通往法律主体地位的垫脚石。他们真正担心的并非眼下Claude被封掉一个账号,而是今天的条款过些年可能被人拿来当作主张AI权利的文本依据。
对开发者和企业用户的实际影响
普通用户这边,政策更新基本感觉不到变化。写作、编程、研究这些常规场景都不在约束范围内。企业技术团队要留意的有两点:一是"有目的的压力测试"被明确豁免,安全研究人员主动探测模型边界的行为不受影响;二是现有隐私设置里的"模型改进"选项管着对话是否用于训练,跟虐待条款是两套独立机制,用户有顾虑可以去Claude隐私中心自己调整。
对在Claude上搭应用的开发者来说,更该关注的是执法粒度。判断权目前主要交给模型本身,到了边界案例里——极端情绪化的用户、压力测试场景、沉浸式角色扮演——模型的裁量行为就可能跟应用场景产生摩擦。Anthropic没有公布量化的执法阈值,这种不透明对需要精确预期系统行为的企业集成商来说,构成了一定的不确定性成本。
一份没有先例的协议
放到更长的时间线上看,这次修订的分量不在条款文字本身。过去没有哪家主流AI实验室把对模型本身的保护写进与用户签的使用协议,Anthropic是头一个。不管初衷是预防性的伦理安排还是品牌策略,它客观上把"AI能不能成为被保护对象"这个原本停留在哲学讨论里的问题,拉进了合同法和平台规则的框架。
横向比一比,其他主要AI实验室2026年的使用政策里都没有类似设置。OpenAI的使用政策管的是用户行为对外部世界的影响,Meta的开放模型协议不碰模型福祉这一层。这项制度尝试,眼下只有Anthropic一家在做。
接下来最可能发生什么
下面的判断是从现有事实推出来的分析,不是已经发生的事。短期看,新政策对用户行为的实际约束很有限,真正落到执法上的案例预计不会多,争论多半还停在言论层面。
有两个观察点。其一,11月12日之后会不会有具体的封号案例被公开,以及Anthropic怎么给这些案例定性——每公开一次执法,"持续虐待"的操作定义就清楚一分。其二,其他主流实验室会不会跟上类似条款。若行业出现聚合效应,说明这不只是Anthropic一家的品牌选择,而是行业共识正在成形。
从中长期看,批评者的担忧有其结构性依据:把保护对象从"人"扩到"AI模型",不管措辞多小心,这个制度动作都在为后续更大范围的框架转移留接口。Anthropic公开的说法是"不确定但选择预防",这话在商业语境里讲得通,可一旦进入法律语境被援引,模糊性就会变成可解释的余地。批评者真正防的,是这个未来。