Anthropic推出FlashProve:模型没换,能拿出密码学证据吗?

资讯 AI 行业观察 作者:张子豪 全文 3068 字 · 约 8 分钟读完 配图 16 张 分类Anthropic

就像发邮件加上数字签名一样 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。

所属频道 大厂动态

Anthropic推出FlashProve:模型没换,能拿出密码学证据吗?(配图 1)

你花钱调用的那个 AI,真是商家嘴上承诺的那款模型吗?

打个比方,某个第三方平台对外说接入了旗舰模型,实际后台悄悄换成了更便宜的小模型、老模型,光凭回答的语气和成色,普通人很难分辨;再比如同一道题,官方渠道能解出来,走中转站却卡住了。

Image

对不少国内用户来说,通过第三方 API、聚合平台或者中转服务调模型,这类疑问几乎躲不开。

一次看似简单的模型请求,链路上要穿过「用户—中转站—上游服务商—模型」好几个环节。哪一环不透明,用户就说不清自己买到的到底是不是标价对应的那款模型。

Image

图|研究链接:https://www.anthropic.com/research/provable-inference

Anthropic 近日公开了一项研究,想做的事就是:把过去只能靠口碑、截图和体感吵来吵去的问题,变成能用数学手段验证的问题。

这套开源研究原型叫 FlashProve,能为模型推理生成密码学证明。它的思路是让服务商就模型的计算结果给出密码学证明,用户既不用拿到模型权重,也不必自己重跑一遍大模型,就能完成核验。

Image

不公开模型,也能证明「你就是你」

想确认自己用的到底是哪个模型,通常只有两条路:用模型厂商官方的应用,或者从官网调 API 对话。可大多数 API 调用里,我们只是提交问题、服务器返回回答,模型实际上跑在远程机器上,后台做了哪些计算,用户无从得知。

斯坦福大学的研究项目《Model Equality Testing》就做过测试:2024 年四款 Llama 模型的 31 个商业 API 端点中,有 11 个端点的输出分布与 Meta 发布权重的参考分布存在统计差异。

Image

同一个模型名字,未必对应同一种表现。服务页面上挂的都是 Opus 5.5,也无法保证用户拿到的是完全相同的模型。

有人想靠几个问题来鉴别模型。就像最近内测 Opus 5.5 时,有网友说可以问它 2026 年 5 月 Karpathy 去了哪里,如果答不出他去了 Anthropic,那就是没测到。

问题是,模型厂商自己也会做路由,靠这类问题鉴别往往很难直接定位原因。碰巧答错、参数不同、上下文没传完整,和后台换了模型,最后都可能表现成一句「怎么变笨了」、「这不是我想要的模型吧」。

FlashProve 的核心,是一项名为 zkSNARK 的零知识简洁证明技术。

Image

第一步,模型服务商为权重生成一个「承诺」。它像一组密码学指纹,能唯一锁定特定权重,同时又不公开权重本身。

接着,服务商针对给定输入和待检查的输出生成一份证明,用来核验这些输出是否符合事先约定的模型计算。用户拿到模型承诺、提示词、回答和证明文件后,在自己的电脑上就能检查:这套被锁定的权重处理这段输入时,是否确实会产生这些输出。

Image

假如中转站偷偷换了一套模型,或者有人改动了输出,证明就无法与原来的模型承诺对上。

零知识在这里同样关键。它的目的是让验证者在确认计算结果的同时,不会因此拿到模型权重、中间计算值,也不会知道 MoE 模型在各层调用了哪些专家。

Image

这也说明了它为什么比「让 AI 自报家门」靠谱:回答里写了什么模型名字,不再算身份证明,真正被检查的是输出与指定权重之间的计算关系。

一台笔记本就能核验

以往给大模型生成零知识证明,最大的拦路虎是成本。证明过程可能比普通推理慢上几个数量级,证明文件也可能大得惊人。

Image

Anthropic 的实验对象是公开 4-bit 权重的 Llama 4 Maverick。这是一个 4000 亿参数的混合专家模型,每个 token 实际激活约 170 亿参数。Anthropic 公布的数据如下:

  • 单张 H100 生成证明的吞吐量约为 110 tokens/秒;
  • 每个 1,024-token 请求的证明约为 19 MB;
  • 验证环节不需要 GPU,24 线程 CPU 上约需 17 秒,单线程约需 21 秒;
  • 模型权重的初始承诺只生成一次,大约要花 39 分钟。

需要说明的是,110 tokens/秒指的是证明生成速度,跟用户聊天时模型吐字的速度不是一回事。证明本身依然很贵——按 Anthropic 给出的对比条件,它消耗的 GPU 时间大约是普通 vLLM 推理的 70~95 倍。

Image

代价仍不算低,但这套方案把一种过去几乎无法承受的验证手段,推到了开始具备实际想象空间的地步。

但解释不了「降智」

对中转站用户来说,这项技术最直接的吸引力自然是识别模型替换。可这里有个关键前提:我们得提前知道正品模型的承诺长什么样。假如中转站给出的有效证明只能说明回答来自它自己挑的模型 B,用户又没法确认模型 B 就是自己买的模型 A,那这份证明照样解决不了身份问题。

更有效的用法,是让模型厂商、可信机构或公开透明的登记系统来发布模型承诺,用户验证时固定比对这份预期指纹。有了这个前提,FlashProve 才能从「某次计算确实发生过」变成「我们买的那次计算确实发生过」。

Image

社交媒体上,网友对这项技术的评论更多是:「如果这能最终终结那些 他们是不是悄悄削弱了模型 的帖子,那就太好了。」

Image

说到底,大家最想要的结果无非是:「你们不要再吵了,把证明拿出来就好了。」

可即便权重身份确认了,「降智」还有别的可能。权重没变,不等于服务一点没变。系统提示词、安全策略、上下文截断、检索内容、量化方式、解码参数,每一项都可能影响最终体验。要排查这些,得先弄清楚每项条件是否也被核验覆盖。一份绑定权重的证明,回答不了所有产品层面的问题。

Image

Kimi 团队介绍 Kimi Vendor Verifier 时说过,K2 Thinking 发布后他们收到社区关于跑分异常的反馈,调查确认其中相当一部分案例是解码参数用错了。之后团队在 Thinking 模式里约束了相关参数,并检查思考内容有没有被正确传回。

要让商家拿证明,还得先有人愿意出

离消费级普及还有距离,但这项技术指出的方向已经够重要了。Anthropic 这次把代码、技术报告和 Lean 形式化证明一并公开。技术博客里说,Claude 参与了系统构建和优化,协议文档和部分代码也由 AI 生成。

Image

中转服务要实际接入,还离不开上游配合。模型厂商或持有权重的运营方得建立可信的模型承诺、生成证明,中转平台再把相关内容交给用户。不过,要是服务商将来能持续提供这类证明,我们投诉「你是不是换了模型」,就有机会拿到一份能自己检查的答复。

对模型厂商来说,它还能帮忙发现被入侵的推理服务器,确认实际跑的权重有没有经过授权。对评测机构和监管方来说,它可能用来确认接受测试的模型和正式提供服务的模型是否一致,或者检查服务商有没有用未经批准的模型。

当然,这些应用都还缺几样东西:更低的证明成本、更长的上下文支持、对真实推理配置的覆盖,以及一套可信的模型承诺发布机制。

Image

FlashProve 不会马上终结网上那些「他们是不是悄悄削弱了模型」的帖子。就算将来权重能验证,人们照样可以继续争论系统提示词、解码策略和产品设计有没有变。

但至少在模型有没有被掉包这件事上,我们有机会从过去靠几个问题猜测、凭感觉争论,变成拿出一份证明直接验证。毕竟,我们花钱买的是指定模型的服务,确认自己收到的确实是它,本来就不该是一件靠猜的事。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Anthropic推FlashProve:给AI模型发一张"身份证"

    Anthropic正在开发名为FlashProve的系统,让任何人都能验证某条AI回复是否真的来自它所声称的模型。在AI冒充、模型套壳与深度伪造泛滥的当下,这一尝试试图为AI输出建立可验证的身份体系,但技术路径与行业协作仍是关键挑战。

    来源 AI 行业观察
  2. Anthropic招股书:8954亿美元算力承诺,前三季营收增12倍

    为了满足Claude模型训练和企业客户调用需求,Anthropic不仅与亚马逊、谷歌、微软等云服务商签订长期协议,还开始直接采购芯片、参与数据中心建设,并向前加密货币矿企和新型云服务商寻找电力与机房资源。

    来源 华尔街见闻
  3. Anthropic工程师:AI越准,人反而越容易丢掉独立思考

    IT之家 11 月 4 日消息,Anthropic Claude Code 团队工程师、前谷歌技术高管 Addy Osmani 在 X 上发表长文《当 AI 智能体完成工作时,如何保持批判性思维》。 他认为,随着 AI 智能体越来越强大,人类可能在逐步依赖 AI 的同时,逐渐丧失独立思考、验证结果和理解复杂系统的能力,

    来源 AI 行业观察
  4. Anthropic 14万亿参数神级模型泄露,6个月内杀死视频、图像模型

    高能预警! Anthropic的终极杀器Fable 5.5,已经临近发布了。 昨晚的X上,到处都是Fable 5.5的实测流出。 大V们直言:视频和图像模型的时代结束了! 与此同时,一个神秘的Hugging Face仓库中,也显露出不少端倪。 就在Anthorpic临近IPO的日子,Fable 5.5的身影已经越来越近

    来源 AI 行业观察
  5. Anthropic算力边际利润不升反降:规模效应为何在推理侧失灵

    在AI公司普遍期待规模效应压低推理成本的节点上,Anthropic的算力边际利润却出现反向恶化。本文基于TechCrunch报道,拆解其算力经济学的结构性矛盾:训练与推理成本高企、价格竞争加剧、云基础设施依赖,以及“越大越省”叙事在真实商业场景中的失灵。

    来源 AI 科技快讯
  6. Anthropic招股书预警:RSI能力模型临近,AI将能自我训练?

    Anthropic 在 S-1/A 招股补充文件中披露,已越来越多地借助 AI 加快自身研发,并可能在不久后触及《负责任扩缩策略》定义的“由 AI 带来的爆发式技术进展”。不过公司承诺,所有模型暂未跨过递归自我改进门槛,前沿模型研发将保留人类监督。#Anthropic招股文件# #递归自我改进#

    来源 IT之家
  7. Anthropic工程师:AI越准人越懒思考,Addy Osmani提认知投降

    IT之家 11 月 4 日消息,Anthropic Claude Code 团队工程师、前谷歌技术高管 Addy Osmani 在 X 上发表长文《当 AI 智能体完成工作时,如何保持批判性思维》。他认为,随着 AI 智能体越来越强大,人类可能在逐步依赖 AI 的同时,逐渐丧失独立思考、验证结果和理解复杂系统的能力。他

    来源 腾讯网
  8. 消息称高盛限制交易员与银行家使用部分 AI 工具,引发员工不满

    IT之家 11 月 3 日消息,据彭博社报道,高盛集团在评估效率与风险隐患后,禁止大部分员工使用面向编程的先进人工智能工具,这一举措引发部分员工不满。 此前数月,高盛允许银行从业人员在工作中使用 Anthropic PBC 的 Claude Code 以及微软公司的 GitHub。彭博新闻看到一份 10 月更新的内部指

    来源 AI 行业观察
  9. 营收狂飙却难掩巨额账单:Anthropic三季度重回亏损,近 9000 亿美元算力承诺成IPO最大考验

    人工智能明星企业 Anthropic 近日向美国证券交易委员会(SEC)提交了招股书修订稿,正式补全了2026财年第三财季(截至9月30日)的财务数据。数据显示,尽管公司的营业收入仍在快速增长,但由于短期算力成本激增以及多项费用叠加,Anthropic 仅维持了一个季度的经营盈利便再度转为亏损,而其高达近9000亿美元

    来源 AI 开发者社区
  10. 苹果开放Siri第三方AI调用,Anthropic开源模型验证协议

    本期资讯涵盖多项AI基础设施与应用层更新。苹果在iOS 27.3预览版中允许第三方应用接入Siri AI操作,结合个人上下文执行任务。Anthropic开源FlashProve,利用zkSNARK技术在不泄露权重的前提下验证模型输出身份。openJiuwen发布Agent-Memory,引入视听双流记忆以优化长视频理解

    来源 AI 应用前沿
  11. SemiAnalysis帕特尔:OpenAI与Anthropic预订2027年新增算力25%至40%

    SemiAnalysis创始人Patel称,OpenAI和Anthropic预订了新增算力的25%到40%。“现在对很多人来说,已经不可能买到算力了。”此外,利率上行使Neocloud难借到钱,英伟达只给约6.5吉瓦托底,占比有限,算力的交付权仍向超大规模云厂商和两家实验室集中。

    来源 华尔街见闻
  12. Anthropic警示:AI递归自我改进近在眼前

    其在招股文件中写道,公司已经将 AI 用于研发工作,同时做出提醒:“借助 AI 开发能力更强的 AI,也可能带来重大安全风险,尤其是当它大幅加快技术迭代速度的时候。

    来源 凤凰科技
  13. Anthropic优化长对话延迟:50万token首字延迟降低35%

    本期关注智能体基础设施的效率突破。LlamaIndex通过量化将OCRia-1在B200上的推理速度提升近10倍;Anthropic推出Message Threads,大幅降低长上下文的首字延迟。LangSmith BYOC正式登陆AWS,企业数据隐私控制更灵活。此外,SETI利用AI实时处理射电信号,fal获16.5

    来源 AI 应用前沿
向下滚动自动加载更多