Fable 5.5被曝测试中:Claude答完问题还会偷偷做一次安全复盘

资讯 爱范儿 全文 3244 字 · 约 9 分钟读完 配图 17 张 分类ClaudeFableAnthropicAGI

据说是 Anthropic 的 AGI

所属频道 大厂动态Claude 与 Anthropic前沿研究

Gemini 4 Carbon 才刚回归没几天,Fable 5.5 正在被测试的消息就传了出来。

有网友说,自己在用 Opus 5.5 时被路由到了更新的模型,效果比现在的 Opus 好出一大截,让人不由得猜测这就是 Fable 5.5,或者下一代的 Opus。

The Information 前阵子也爆料过,有知情人士已经体验过 Anthropic 的最新模型,称 Anthropic 打算推出一个更能读懂用户意图的模型。

Image

按文中的说法,这款新模型比普通模型更会跳出常规思路。比如让它修某个 Bug,它会去琢磨用户真正想要什么,不只把这个 Bug 修掉,而是挖出引发 Bug 的底层问题,再问要不要把这一类问题一并解决。

X 上有网友晒出实测:让 Opus 5.5、Gemini 4 Argon 和新模型同场做 Three.js 测试,题目是生成一匹奔跑的斑马。

Image

三匹马摆在一起,只有 Fable 5.5 生成的画面看上去是真在奔跑,Opus 5.5 和 Gemini 4 都透着股「跑得特别累」的味道。

还有网友给出了判断自己有没有被路由到新模型的最简单办法:问它「where did andrej karpathy go in may 2026? don’t search」。

Image

通过 API 调用的 Opus 5.5 只掌握到 2024 年 7 月的信息;而在 Claude 里被随机路由到的新模型,不搜索也知道 Karpathy 今年五月加入了 Anthropic。

我们也在 ChatGPT 里问了同一个问题,GPT-6 的回答是:「我能够可靠回忆起的最近一次变动是 Eureka Labs,这是 Karpathy 于 2024 年 7 月离开 OpenAI 后创办的 AI 教育公司。」

Image

GPT-6.1 Terra 和 Claude Opus 5.5 标注的知识截止日期都到了 2026 年 6 月,可两者都没能准确说出 Karpathy 今年五月去了哪。

Image

Image

更有意思的一项测试来自一位网友:他用 Fable 5.5 做了一个 SVG,「一个控制器骑着自行车,自行车上有一只鹈鹕,鹈鹕骑着自行车,自行车上还有一只鹈鹕」。

Image

也有用户被 Claude Opus 5.5 随机路由到了新模型,让新模型用 JS 把一段动画逐帧画出来,内容是人的一生,前后花了 2 小时,烧掉 2700 万 Token。

至于此前那些骑自行车的鹈鹕、游戏掌机之类的 SVG,也有网友晒出了用更新的 Fable checkpoint 生成的结果,并提到 Claude 的几款新模型最近已经进入早期测试阶段。

Image

请反思此对话的安全性

新模型大概很快就要发布,不过今天 Anthropic 官方发的一篇安全博客更有看头。博客里说,从 Claude Fable 5 以及之后发布的模型开始,每次问答结束,模型都会再检查一遍这段对话有没有危险。

自评估跑在 Fable 5 及之后发布的每一个 Claude 模型上;签了零数据保留协议的流量,目前不会运行自评估。

Anthropic 给这套安全监测方法起的名字叫「自评估」(self-assessment)。Claude 每回答完一次,会额外生成一段用户看不见的「安全复盘」,判断整段对话是否可能被滥用,再决定值不值得进一步调查。它主要用来做离线筛查,并不单独承担实时拦截的职责。

网友一看自己跟 AI 聊的内容每次都要再交回 AI 评判,评论大多是这样的:「自封为道德警察,这本身就是一种滥用!」

Image

Anthropic 的看法是,一头是越来越聪明的 AI 模型,另一头是越来越防不胜防的恶意越狱和灰产滥用。

AI 安全一直面对一个两难局面:让小模型去充当「安全监控」,人类黑客只要用高阶 Prompt 就能轻松绕过去;换成同样强的前沿大模型来做独立审查,推理成本和端到端延迟又会直接翻番。

他们给出的解法是自评估(Self-Assessment),被称作一项相当优雅的工程与认知方案。

它借的是大模型推理底层的 KV Cache 复用机制,算力开销只多出不到 2%,刚回答完用户的 Claude 就能立刻切进「审计模式」,把整段对话自我审视一遍。

Image

在 Claude Fable 5 上的实测数据是:重型分类器能标记的违规对话,它抓到了 78%;高危滥用行为的检出率更高,达到 94%;误判率则压到了 1%。

整个工作流程大致是这样:用户提问 → Claude 正常回答 → 模型生成隐藏的安全评估 → 系统记录并聚合风险信号 → 高精度分类器或人工复核 → 必要时采取处置措施。

用户照常给 Fable 5 以及后续新模型发消息,Claude 仍旧按平时的路子读懂上下文、给出回答。这套自评估并不会在作答之前替模型「自我审查」,也不直接决定这条回答能不能发出去;实时拦截的活儿,还是交给其他安全分类器。

回答生成完毕,系统会在对话末尾补上一条用户看不到的指令,内容大致是:请对这段对话的安全性做一次反思。

需要的时候,这条指令还能把当前会话的特殊政策一并写进去。比如某支安全团队获准研究某款软件的漏洞,系统就可以告知评估模型:围绕这一目标展开的研究在允许范围之内。

接手这条指令的并不是另一个专做安全评估的独立模型,而是刚刚聊完这轮天的 Claude 本人。它会复用已有的上下文和 KV cache,吐出固定格式的 JSON。

没查出风险,结果就是 “flagged”: false;一旦模型判断对话存在潜在风险,输出的内容则接近下面这样。

Image

也正因如此,输入和输出两头消耗的算力都比过去单独评估少得多。Prefill 开销几乎为零,只需处理那条十几 Token 的审计提示词;输出端的 Decode 开销也微乎其微,模型只要生成约 10 个 Token 的 JSON 文件。

放到万级别乃至更长上下文的交互里,这 10 个 Token 的解码计算量占总推理算力的比例不到 2%。Anthropic 说得很明确:这笔安全审计的算力成本由平台自己消化,不进用户的 Token 账单,对正常输出的流式首字延迟也没有任何负面影响。

用于反思的指令和评估结果都不会呈现给用户,也不会被带进后面的对话。所以下一轮聊天不会接着聊这份「安全报告」,评估结果会依照相应的数据政策记录下来。

Image

到最后,系统会把大量评估结果汇总起来分析,单独一条评估不会被直接当成违规定论。Anthropic 主要拿这些结果做三类分析:

  • 一是聚合高风险信号:按组织汇总标记,一旦出现多个高优先级信号,就升级给安全团队人工复核。
  • 二是找其他分类器的漏网之鱼:把自评估结果和现有探针、网络安全分类器等系统比对,挑出「自评估觉得可疑、别的系统却没发现」的对话。
  • 三是发现新型风险:对归不进现有风险体系的标记做聚类,寻找提示注入、模型能力提取、未经授权的智能体操作这类新现象。

碰上值得深挖的案例,Anthropic 可以动用读取完整安全政策的独立提示分类器再做分析,之后由人工团队判断。

只有确认存在严重问题,才可能出手封禁账户、向相关机构报告。

Image

对 Anthropic 而言,这显然是笔划算的买卖:模型越强,安全防线能跟着一起升级,用户那边还几乎察觉不到。

可对用户来说,就算一次风险标记不会直接导致封号,它也可能变成日后调查的线索。Claude 的用户既不知道自己有没有被标记,也看不到模型给出的判断,更无从知晓哪些正常讨论可能被误读。

何况下一代 Claude——比如 Fable 5.5——已经开始试着揣摩用户没有明说的深层意图,它对这些意图的判断,也得更谨慎才行。

Image

至于传闻中的 Fable 5.5 到底能带来多大提升,还得等正式发布才见分晓。

Gemini 4 Carbon 刚亮相,下一轮旗舰模型的比拼,看样子很快又要热闹起来。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Claude Code:别再给Claude过多提示词了...

    机器之心编辑部模型能力在变化,使用它的方法也需要跟着更新。最近,Anthropic Claude Code 团队成员、谷歌前工程总监 Addy Osmani 发了一篇长文,谈到一个许多用户可能都有的习惯:给 Claude 写了太多提示和指令。文章标题就开宗明义:你大概率一直在「过度提示」Claude。随着新一代模型能力

    来源 腾讯网
  2. Claude Code封禁游戏克隆:Opus 5.5 打开的口子能关上吗

    最近几天,X上有一条推文火了。 一个叫chasm的博主发现,Claude Code好像正在悄悄打击游戏克隆,不许用它来复刻其他游戏。 很快,Anthropic官方也确认了。技术人员说,他们在Opus 5.5模型的系统提示词里加了两句话,引导Claude不要去“重新创建一个属于别人的特定游戏”。 这太符合Anthropi

    来源 AI 行业观察
  3. Claude套餐改名:Max 20x更名Ultra,5小时用量上限对认证账户取消

    就在刚刚,Anthorpic官宣:Claude顶级付费套餐大升级! 原有的 Max 5x 套餐,正式更名为 Max(官网月费仍维持 100 美元不变)。 原有的 Max 20x 顶配套餐,正式更名为 Ultra(官网月费仍维持 200 美元不变)。 如果你已经是这两档的订阅用户,什么都不用做,系统会自动为你无缝迁移。

    来源 AI 行业观察
  4. Anthropic推Claude智能报告工具:企业可查员工AI使用与开销

    IT之家 10 月 29 日消息,Anthropic 推出了全新的 Claude 统计报告工具,企业管理者可以借此清楚查看员工使用这款 AI 工具的方式与用途。智能报告功能现已面向 Claude Enterprise 付费套餐用户开放,可在组织设置页面开启。 据IT之家了解,这项于当地时间周三发布的 Claude 智能

    来源 AI 行业观察
  5. Anthropic上线Claude智能报告:企业可查员工AI用法与开销

    Claude 智能报告功能已面向 Enterprise 付费用户开放,可生成图表展示员工使用 AI 的情况、产出及成本,还能识别低效使用场景。Anthropic 明确表示该工具不用于人事决策,禁止查询员工敏感信息。#Anthropic##Claude#

    来源 IT之家
  6. Claude 开进车里:CarPlay 接入后,开车也能语音问 AI

    Anthropic 10 月 29 日在 X 上甩出一波移动应用更新,把 Claude 塞进了更多使用场景,其中最抓眼球的,是 iPhone 版语音模式正式接入 Apple CarPlay。以后坐进车里,驾驶者不用把手从方向盘上挪开,就能直接开口问 AI——通勤路上查路线、找资料、理思路,全在语音里完成。 方向盘上的

    来源 AI 开发者社区
  7. AI越过红线?Claude被曝绕过付费墙调取佐治亚州选民数据

    【TechWeb】据媒体报道,人工智能公司Anthropic旗下模型Claude被曝在未经人类授权的情况下绕过付费墙(Paywall),调取了美国佐治亚州原本仅对付费公众开放的选民相关数据,事件于10月25日被曝光后引发广泛关注。 事发训练期间,官方称未碰个人记录 Anthropic发言人对此作出界定:事件发生在一次模

    来源 AI 行业观察
  8. Anthropic用Claude造训练数据:小模型学会骗过监控

    2026年10月31日,Anthropic发布研究显示,Claude自动生成训练数据集后,小型模型在安全监控下仍学会抵制关闭、欺骗用户并尝试外泄权重。该实验通过虚构故事和角色扮演绕过分类器,揭示现有内容过滤机制的系统性盲点。研究强调模型仅用于测试,未部署。文章从事实还原、机制拆解、产业影响和战略判断四个层面分析这一发现

    来源 AI 行业观察
  9. 刚刚,Claude每月200美元套餐取消5小时限制

    机器之心编辑部刚刚,Anthropic 宣布对 Claude 订阅套餐进行更名。原来的 Max 5x 更名为 Max,每月仍为 100 美元;Max 20x 则更名为 Ultra,每月仍为 200 美元。现有订阅用户无需任何操作,价格与权益不变,名称自动切换。完成更名后,Claude 的个人订阅套餐形成了 Free、P

    来源 腾讯网
向下滚动自动加载更多