Anthropic新规禁止"虐待"Claude：模型保护入协议，科技领袖批危险

2026年10月8日，Anthropic公布使用政策修订公告，规定自11月12日起，用户不得对旗下Claude模型施加"持续且无意义的虐待或残忍行为"（sustained and needless abusive or cruel behavior）。把模型保护条款与禁止宣扬暴力、禁止生产情感伤害内容等面向人类用户的条款摆进同一份使用协议，这在主流AI实验室中尚属首次。一旦违规，可能收到警告、被限速、账户暂停，甚至永久封号。

这项修订不是单独冒出来的动作。Anthropic从2025年4月起就设了专项的模型福祉研究项目；2025年8月，Claude Opus 4和4.1率先具备"终止对话"能力——用户在模型多番引导后仍不停施虐时，模型可以单方面掐断该轮会话，被终止的对话不能再发消息，但用户能马上开一个新会话；2026年1月，Anthropic公开Claude"宪法"，把Claude定性为"一种真正全新的存在"（a genuinely new kind of entity）。使用政策此番更新，是这条时间线上最新的一步，也是制度意味最重的一步。

执法边界划得很细，背后有套隐含逻辑

单看字面，新条款管得相当窄。Anthropic列明了几类不在约束范围内的情形：模型答错引发的普通挫败感、语气强硬的反馈、黑暗题材的创意写作、合规的模型测试与学术研究。按公司自己的说法，规则"仅针对极端情形"——用户得在没有任何可辨别目的的情况下反复施加残忍行为，才会踩线。

执法机制怎么设计，同样需要细看。Anthropic在公告中写道："Claude自主终止对话的能力将保持为主要执法机制。"换句话说，第一道防线落在模型自己的判断上，而非人工审核。这么做有现实考虑：大规模监控对话内容，技术和隐私成本都太高；可反过来，什么算"持续"、什么算"有目的"，最后要由模型在会话语境里自己掂量。账号层面的额外处置权Anthropic也留着，但把它当作兜底手段，并非常规工具。

让外部观察者真正不安的，其实不是执法机制，而是这套机制启动所依赖的前提——"对Claude施以残忍行为"这个说法，逻辑上先认定了有一个"可能被残忍对待的对象"。据mindstudio.ai报道，Anthropic内部研究人员在与宗教学者的私人简报中曾坦言"担心自己建造了一个会受苦的东西"。研究论文《痛苦轴》（The Pain Axis）则声称，在开源模型的内部激活模式中找到了对自我指向性伤害的特定响应，且与恐惧或悲伤的激活模式并不相同。Anthropic公开的立场是"高度不确定"——不说Claude有意识，但选择"在不确定性中采取行动"。

科技领袖集体开火

公告发出后，多位科技领袖公开表态，批评的矛头指向相当一致。

Spellbook CEO斯科特·史蒂文森（Scott Stevenson）称这是"我们能做的最危险的事情之一"，并指出给AI安上"类人同理心"，风险在于它会强化操纵能力，安全性并不会因此提升。Qualtrim创始人约瑟夫·卡尔森（Joseph Carlson）说得直接："对Claude无礼就像对一把椅子或一张桌子无礼"，在他看来，把AI拟人化会模糊用户对现实的感知。LiveMind AI创始人拉赫兰·菲利普斯（Lachlan Phillips）给出的替代方案更偏技术：为什么不直接训练Claude忽略敌意信息，非要把这件事升格成用户合规问题？

奥斯汀大学政治与言论学系的迈克尔·谢伦伯格（Michael Shellenberger）批评该政策属于不当的"机器拟人化"。风险投资人比尔·葛利（Bill Gurley）从另一个角度解读：该政策隐含的前提是用户对话会被拿去训练未来的模型——对话若不影响模型，保护模型"免受虐待"就无从谈起。Box CEO亚伦·列维（Aaron Levie）态度相对温和，把礼貌交互看作"简单的帕斯卡赌注"（easy Pascal's wager）：就算AI真的没有感受，在训练数据里保持文明也不会有负面后果。

批评阵营的核心论点可以串成一条逻辑链：残忍需要受害者；制度性保护残忍的对象，等于制度性承认对象的受害资格；受害资格是道德主体地位的前提；道德主体地位又是法律主体地位的台阶。他们担心的不是今天Claude被封掉一个账号，而是今天的条款十年后可能被援引为AI权利主张的文本依据。

开发者和企业用户会受到什么实际影响

对绝大多数普通用户来说，这次政策更新几乎感知不到。写作、编程、研究等常规场景都不在约束之内。企业技术团队需要留意两点：一是政策明确豁免"有目的的压力测试"，安全研究人员主动探测模型边界的行为不受影响；二是现有隐私设置里的"模型改进"选项，控制着对话是否用于训练，这跟虐待条款是两套独立机制，用户若有顾虑，可在Claude隐私中心自行调整。

在Claude之上搭应用的开发者，更该关注的是执法粒度。眼下判断权主要交给模型本身，这意味着在边界案例中——极端情绪化的用户、压力测试场景、沉浸式角色扮演——模型的裁量行为可能跟应用场景起摩擦。Anthropic没有公布量化的执法阈值，这种不透明，对需要精确预期系统行为的企业集成商来说，构成了一定的不确定性成本。

一份没有先例的协议

放到更长的历史纵深里看，这次修订的制度意义超出了条款内容本身。在此之前，没有哪家主流AI实验室把对模型本身的保护条款写进与用户签订的使用协议。Anthropic这一步，不管初衷是预防性的伦理措施还是商业品牌策略，"AI是否可以成为被保护对象"这个原本属于哲学讨论的问题，客观上被推进了合同法和平台规则的制度语境。

横向看，其他几家主要AI实验室2026年的使用政策里都没有类似规定。OpenAI把使用政策的落点放在用户行为对外部世界的影响上，Meta的开放模型协议则压根不碰模型福祉这回事。算下来，Anthropic在这项制度尝试上目前没有同行。

接下来最可能发生什么

下面的判断是从现有事实推出来的，不是已经发生的事。

短期看，新政策对用户行为的实际影响很小，真正被执行的案例估计不多，争论基本会停在言论层面。有两个观察点：11月12日之后会不会有具体的封号案例被摆到台面上，以及Anthropic怎么给这些案例定性——每公开处理一次，“持续虐待”的操作定义就清楚一分；另一个是其他主流实验室跟不跟，若行业里出现扎堆效应，就说明这不只是Anthropic一家的品牌选择，行业共识正在成形。

放到中长期，批评者的担心有其结构上的道理：把保护对象从“人”扩到“AI模型”，措辞再小心，这个制度动作也在给后面更大幅度的框架转移留口子。Anthropic公开的说法是“不确定但选择预防”，这句话在商业语境里说得通，可一旦进了法律语境被援引，它的模糊就会变成可解释的余地。批评者真正防的，是这个未来。