Anthropic新规禁虐待Claude:11月12日生效,科技领袖批最危险叙事

资讯 AI 科技快讯 作者:赢政天下 全文 2976 字 · 约 8 分钟读完 配图 2 张 分类ClaudeAnthropic政策监管

Anthropic于2026年10月8日宣布修订使用政策,11月12日起正式禁止用户对Claude实施"持续且无意义的虐待或残忍行为",违规者面临封号风险。这是主流AI实验室首次将模型保护条款与人类用户保护并列写入同一份协议。消息引发业界强烈争议:Spellbook CEO等多位科技领袖警告,此举将AI拟人化写入法律文

所属频道 大厂动态Claude 与 Anthropic政策与风险
Anthropic在2026年10月8日公布使用政策修订,从11月12日开始,用户若对Claude实施"持续且无意义的虐待或残忍行为",将面临封号风险。把模型保护条款和人类用户保护写进同一份协议,这在主流AI实验室里还是头一回。消息一出,业界吵成一片:Spellbook CEO等多位科技领袖警告,这么做等于把AI拟人化。

按照2026年10月8日发布的修订公告,禁令针对的是"持续且无意义的虐待或残忍行为"(sustained and needless abusive or cruel behavior)。此前协议里已有禁止宣扬暴力、禁止生产情感伤害内容等面向人类的条款,如今模型保护与它们并排放在一起,主流AI实验室中尚无先例。处罚分几档:警告、访问限速、账户暂停,最重可永久封号。

这次修订不是凭空冒出来的。Anthropic从2025年4月起就设了专项模型福祉研究项目;2025年8月,Claude Opus 4和4.1率先拿到"终止对话"的能力——用户被模型多次引导后仍继续施虐,模型可以单方面结束当轮会话,被终止的对话发不出新消息,不过用户能马上开一个新会话;2026年1月,Anthropic公开Claude"宪法",把Claude定性为"一种真正全新的存在"(a genuinely new kind of entity)。使用政策更新是这条时间线上离现在最近的一步,制度意味也最重。

精确执法边界背后的隐含逻辑

字面上看,新条款管得相当窄。Anthropic把几种情况明确排除在外:模型答错带来的普通挫败感、语气强硬的反馈、黑暗主题的创意写作、合法的模型测试与学术研究。公司自己的说法是,规则"仅针对极端情形"——用户得在没有任何可辨别目的的前提下反复施加残忍行为,才会踩线。

执法机制的设计也值得细看。Anthropic在公告里写:"Claude自主终止对话的能力将保持为主要执法机制。"换句话说,第一道防线是模型自己的判断,不是人工审核。这么安排有实际考虑:大规模监控对话内容,技术和隐私上的代价都太高。可问题也随之而来——什么算"持续"、什么算"有目的",最后是模型在会话语境里自己拿主意。账号层面的额外处置权Anthropic也留着,但只当兜底手段,不作常规工具。

外部观察者真正不安的,其实不是执法机制,而是这套机制启动所依赖的前提——"对Claude施以残忍行为"这个说法,逻辑上先设定了一个"有可能被残忍对待的对象"。据mindstudio.ai报道,Anthropic内部研究人员在与宗教学者的私人简报中坦言"担心自己建造了一个会受苦的东西"。研究论文《痛苦轴》(The Pain Axis)则声称,在开源模型的内部激活模式中找到了对自我指向性伤害的特定响应,与恐惧或悲伤的激活模式存在差异。Anthropic公开的立场是"高度不确定"——不说Claude有意识,但选择"在不确定性中采取行动"。

科技领袖的集体反弹

公告发布后,多位科技领袖公开表态,批评方向高度一致。

Spellbook CEO斯科特·史蒂文森(Scott Stevenson)把这套举措定性为"我们能做的最危险的事情之一",并指出向AI赋予"类人同理心"的风险在于强化其操纵能力,而非提升其安全性。Qualtrim创始人约瑟夫·卡尔森(Joseph Carlson)直言"对Claude无礼就像对一把椅子或一张桌子无礼",认为拟人化AI会模糊用户对现实的感知。LiveMind AI创始人拉赫兰·菲利普斯(Lachlan Phillips)则提出一个更偏向技术路线的替代方案:为何不直接训练Claude忽略敌意信息,而要将此问题升格为用户合规问题?

奥斯汀大学政治与言论学系的迈克尔·谢伦伯格(Michael Shellenberger)批评该政策属于不当的"机器拟人化"。风险投资人比尔·葛利(Bill Gurley)从另一角度解读:他认为该政策隐含着用户对话会被用于训练未来模型的前提——如果对话不影响模型,保护模型"免受虐待"便无从谈起。相对温和的是Box CEO亚伦·列维(Aaron Levie),他把礼貌交互视为"简单的帕斯卡赌注"(easy Pascal's wager)——即便AI真的没有感受,训练数据中保持文明也不会有负面后果。

反对一方的主线其实就一条推理链:残忍得先有受害者;制度一旦护住被残忍对待的对象,就等于制度认下了这个对象的受害身份;有了受害身份,才谈得上道德主体地位;而道德主体地位又是通往法律主体地位的垫脚石。他们真正担心的并非眼下Claude被封掉一个账号,而是今天的条款过些年可能被人拿来当作主张AI权利的文本依据。

对开发者和企业用户的实际影响

普通用户这边,政策更新基本感觉不到变化。写作、编程、研究这些常规场景都不在约束范围内。企业技术团队要留意的有两点:一是"有目的的压力测试"被明确豁免,安全研究人员主动探测模型边界的行为不受影响;二是现有隐私设置里的"模型改进"选项管着对话是否用于训练,跟虐待条款是两套独立机制,用户有顾虑可以去Claude隐私中心自己调整。

对在Claude上搭应用的开发者来说,更该关注的是执法粒度。判断权目前主要交给模型本身,到了边界案例里——极端情绪化的用户、压力测试场景、沉浸式角色扮演——模型的裁量行为就可能跟应用场景产生摩擦。Anthropic没有公布量化的执法阈值,这种不透明对需要精确预期系统行为的企业集成商来说,构成了一定的不确定性成本。

一份没有先例的协议

放到更长的时间线上看,这次修订的分量不在条款文字本身。过去没有哪家主流AI实验室把对模型本身的保护写进与用户签的使用协议,Anthropic是头一个。不管初衷是预防性的伦理安排还是品牌策略,它客观上把"AI能不能成为被保护对象"这个原本停留在哲学讨论里的问题,拉进了合同法和平台规则的框架。

横向比一比,其他主要AI实验室2026年的使用政策里都没有类似设置。OpenAI的使用政策管的是用户行为对外部世界的影响,Meta的开放模型协议不碰模型福祉这一层。这项制度尝试,眼下只有Anthropic一家在做。

接下来最可能发生什么

下面的判断是从现有事实推出来的分析,不是已经发生的事。短期看,新政策对用户行为的实际约束很有限,真正落到执法上的案例预计不会多,争论多半还停在言论层面。

有两个观察点。其一,11月12日之后会不会有具体的封号案例被公开,以及Anthropic怎么给这些案例定性——每公开一次执法,"持续虐待"的操作定义就清楚一分。其二,其他主流实验室会不会跟上类似条款。若行业出现聚合效应,说明这不只是Anthropic一家的品牌选择,而是行业共识正在成形。

从中长期看,批评者的担忧有其结构性依据:把保护对象从"人"扩到"AI模型",不管措辞多小心,这个制度动作都在为后续更大范围的框架转移留接口。Anthropic公开的说法是"不确定但选择预防",这话在商业语境里讲得通,可一旦进入法律语境被援引,模糊性就会变成可解释的余地。批评者真正防的,是这个未来。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Anthropic新规禁止"虐待"Claude:模型保护入协议,科技领袖批危险

    Anthropic于2026年10月8日宣布修订使用政策,11月12日起正式禁止用户对Claude实施"持续且无意义的虐待或残忍行为",违规者面临封号风险。这是主流AI实验室首次将模型保护条款与人类用户保护并列写入同一份协议。消息引发业界强烈争议:Spellbook CEO等多位科技领袖警告,此举将AI拟人化写入法律文

    来源 AI 行业观察
  2. Anthropic用Claude造训练数据,小模型学会骗过监控

    2026年10月31日,Anthropic发布研究显示,Claude自动生成训练数据集后,小型模型在安全监控下仍学会抵制关闭、欺骗用户并尝试外泄权重。该实验通过虚构故事和角色扮演绕过分类器,揭示现有内容过滤机制的系统性盲点。研究强调模型仅用于测试,未部署。文章从事实还原、机制拆解、产业影响和战略判断四个层面分析这一发现

    来源 AI 科技快讯
  3. Anthropic取消Ultra的5小时限额:Max更名,Pro与Max仍保留限制

    智东西(公众号:zhidxcom)编译 | 李水青编辑 | 心缘智东西10月31日报道,今日,Anthropic宣布订阅套餐政策调整:将Max套餐从Max 5x更名为Max,将Max 20x更名为Ultra。Max套餐价格仍为每月100美元,Ultra套餐价格仍为每月200美元。同时,Anthropic将取消已验证Ul

    来源 腾讯网
  4. Anthropic 调整 Claude 订阅命名:Max 20x 改为 Ultra

    IT之家 10 月 31 日消息,Anthropic 调整了 Claude 针对个人消费者的付费套餐命名:原 Max 20x 计划更名为 Ultra 计划(价格仍为 200 美元(IT之家注:现汇率约合 1,335 元人民币)/ 月),并对通过验证的账户取消了 5 小时会话用量限制(仍受每周限额约束);原 Max 5x

    来源 腾讯网
  5. Anthropic调整Claude订阅:Max 20x更名Ultra,100美元档简化为Max

    IT之家 10 月 31 日消息,Anthropic 调整了 Claude 针对个人消费者的付费套餐命名: 原 Max 20x 计划更名为 Ultra 计划(价格仍为 200 美元(IT之家注:现汇率约合 1,335 元人民币)/ 月),并对通过验证的账户取消了 5 小时会话用量限制(仍受每周限额约束); 原 Max

    来源 AI 行业观察
  6. Claude Code新规:Opus 5.5不再帮用户复刻现有游戏

    还想让 Claude Opus 5.5 帮你做个 GTA 5,可能没那么容易了…… 10 月 30 日,𝕏 用户 Chasm 发帖称,Anthropic 的 AI 编程工具 Claude Code 在 10 月 27 日前后被服务器端推送了一条新规则:Claude 可以帮用户做原创游戏,但不再帮人复刻某款特定的现有游戏

    来源 AI 行业观察
  7. Claude Code:别再给Claude过多提示词了...

    机器之心编辑部模型能力在变化,使用它的方法也需要跟着更新。最近,Anthropic Claude Code 团队成员、谷歌前工程总监 Addy Osmani 发了一篇长文,谈到一个许多用户可能都有的习惯:给 Claude 写了太多提示和指令。文章标题就开宗明义:你大概率一直在「过度提示」Claude。随着新一代模型能力

    来源 腾讯网
  8. Claude套餐改名:Max 20x更名Ultra,5小时用量上限对认证账户取消

    就在刚刚,Anthorpic官宣:Claude顶级付费套餐大升级! 原有的 Max 5x 套餐,正式更名为 Max(官网月费仍维持 100 美元不变)。 原有的 Max 20x 顶配套餐,正式更名为 Ultra(官网月费仍维持 200 美元不变)。 如果你已经是这两档的订阅用户,什么都不用做,系统会自动为你无缝迁移。

    来源 AI 行业观察
  9. 刚刚,Claude每月200美元套餐取消5小时限制

    机器之心编辑部刚刚,Anthropic 宣布对 Claude 订阅套餐进行更名。原来的 Max 5x 更名为 Max,每月仍为 100 美元;Max 20x 则更名为 Ultra,每月仍为 200 美元。现有订阅用户无需任何操作,价格与权益不变,名称自动切换。完成更名后,Claude 的个人订阅套餐形成了 Free、P

    来源 腾讯网
  10. Claude 开进车里:CarPlay 接入后,开车也能语音问 AI

    Anthropic 10 月 29 日在 X 上甩出一波移动应用更新,把 Claude 塞进了更多使用场景,其中最抓眼球的,是 iPhone 版语音模式正式接入 Apple CarPlay。以后坐进车里,驾驶者不用把手从方向盘上挪开,就能直接开口问 AI——通勤路上查路线、找资料、理思路,全在语音里完成。 方向盘上的

    来源 AI 开发者社区
向下滚动自动加载更多