Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍

资讯 AI 行业观察 作者:新智元 全文 3278 字 · 约 9 分钟读完 配图 15 张 分类Anthropic合作开源数据中心大模型

掏的是顶配旗舰的钱,调的是转售路由的API,后台真正干活的,却可能是个缩水的小模型。 这种「挂羊头卖狗肉」的暗箱操作,曾是整个大模型API供应链最隐秘的灰色地带。 没有权重、没有机房,哪怕后台半夜被偷梁换柱、掺水降智,开发者也只能干瞪眼吃哑巴亏。 今天,这条暗箱链条被一剑斩断! 就在刚刚,Anthropic联手零知识证

所属频道 大厂动态模型发布算力与芯片开源生态合作与生态

掏的是顶配旗舰的钱,调的是转售路由的API,后台真正干活的,却可能是个缩水的小模型。

这种「挂羊头卖狗肉」的暗箱操作,曾是整个大模型API供应链最隐秘的灰色地带。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 1)

没有权重、没有机房,哪怕后台半夜被偷梁换柱、掺水降智,开发者也只能干瞪眼吃哑巴亏。

今天,这条暗箱链条被一剑斩断!

就在刚刚,Anthropic联手零知识证明祖师爷级学者,公布大模型「可证明推理」重磅突破,正式开源密码学验真系统FlashProve!

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 2)

从此,开发者无需信任任何中心化机构,也不用服务商交出半行权重代码。大模型每生成一条回答,都会被强制钉上一张数学级「出生证明」。

哪怕手头只有一台普通家用CPU,跑上17秒,就能用纯数学方式精准验出每一个Token是不是目标模型「亲生的」,任何偷换模型、半路篡改的把戏都将当场现形!

更绝的是,这次打造出FlashProve的核心主力,竟是Claude自己。

这一次,所有代码、Lean 证明、技术文档,全部以Apache 2.0协议开源。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 3)

传送门:https://github.com/anthropics/FlashProve

按手印、开证明、秒级验真

终结大模型「套壳掉包」

平时觉得大模型突然「变笨了」,很多人会去质问模型「你到底是谁」,或者甩几道数学题去试探。

可模型自报家门的一句话本身就是后台生成的,算力负载与采样配置的微小波动也会改变回答,用户手里永远拿不到能把服务商钉死的铁证。

更让人后背发凉的场景,Anthropic写进了博客——

随着模型越来越强、能自我部署,一个更高级的模型完全可能顶替获批的弱模型上岗,再装成弱模型的样子,躲开本该施加在它身上的监控。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 4)

想要验明真伪,传统路子只有拿到权重自己重跑一遍,可前沿模型的权重是各家的命根子,普通人也根本养不起4000亿参数模型的机房。

为了在不看权重、不重跑模型的条件下解开这个死结,FlashProve把验真流程拆成了环环相扣的三步。

第一步,离线「按手印」。

模型上线前,服务商在单张H100上花约39分钟,用零知识编码给模型权重生成一串唯一的承诺ID并向全网公开。这串ID就像权重的数字DNA指纹,哪怕偷偷改掉一个参数都对不上;但外界光看指纹,绝无可能反推出权重长什么样。

第二步,在线「开证明」。

每处理完一次对话请求,服务商的GPU就会顺手生成一份约19MB的密码学证明,用来证实这段输出确实是由那个按过手印的模型算出来的。

第三步,客户端「验真伪」。

任何用户或审计机构拿到回答后,在普通CPU上运行验证程序cp_verify,17秒就能拿到「真」或「假」的判决,全程既不要权重,也不要GPU。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 5)

撑起这套魔法的底层引擎,正是密码学界大名鼎鼎的zkSNARK(零知识简洁非交互式知识论证)。

验证者只需要像老师抽查作业一样,随机翻看几处,就能以极高概率抓到破绽。

为了把一次推理拆成能抽查的形式,每个请求背后要跑大约2000个名为sumcheck的子协议。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 6)

更硬核的是,它的安全性只依赖哈希函数BLAKE2,不靠椭圆曲线这类代数结构,甚至被认为能扛住未来的量子计算机攻击。这套密码学路线,也早已在Starknet这类以太坊二层网络里久经实战。

原理说通了,真正的难关在后面:这么重的证明,能不能在一个4000亿参数的大模型上跑得动?

单张H100狂飙5500倍

80GB显存吞下4000亿巨兽

答案是:能,而且只用一张H100。

团队测试对象是Meta的Llama 4 Maverick,4000亿参数的混合专家(MoE)模型,每个Token实际激活约170亿参数。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 7)

FlashProve充分利用了这一特性:证明器在生成计算轨迹时,工作量只跟那170亿真正干活的参数成正比,省去了95%以上的无效陪跑。

更妙的是,为了防止外界通过「哪几个专家被激活」反推出模型权重的秘密,系统用零知识编码把路由选择藏进了一个指示向量里,验证器在核对时是对所有专家做加权求和,既省下了海量算力,又能保密模型内部的运转路径。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 8)

模型4-bit量化后的权重足足有232GB,而单张H100的显存只有80GB,硬塞肯定当场爆显存。

如果把整个推理过程的计算轨迹一次性打包,再豪华的显卡也扛不住。

于是,团队把权重放在主机内存里,分段送进GPU,逐段完成计算与证明。

H100在工作时像流水线一样,每次只从内存里流式读取一个片段的权重,算完立刻在显存里完成编码、哈希与归约,只把极少量需要传递给下一段的数据留存下来。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 9)

靠着这种「吃完一段、消化一段」的流式接力,单张80GB显卡硬是把232 GB的庞然大物啃了下来。

114页论文无人通读

Claude包揽400MB数学证明

看到这里你大概会好奇,如此精密繁复的密码学协议与GPU加速工程,究竟耗费了多少名密码学博士的心血。

点开FlashProve的GitHub开源主页,右侧的语言统计栏立刻暴露出这个项目的反常之处。

整个仓库里,C++代码只占1.4%,Python占1.3%,CUDA占0.9%,而高达95.2%的代码(足足398MB)全部是用Lean 4数学证明语言写成的。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 10)

一个大模型推理仓库里为什么会塞满近400MB的数学证明,随仓附带的114页协议规范论文在第51页给出了答案。

人类学者在这项工程里只负责指明方向,从这篇114页的密码学论文、23页技术报告,到C++与CUDA底层代码,再到近400MB的Lean形式化证明,几乎全部出自Claude之手。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 11)

不光是写代码和写论文,项目里每一次测试、运行、对比、推算和代码审校,也全都由AI包揽;凡是文中出现「经阅读」「手工算得」「据汇报」的地方,那个读者、计算者和汇报者全都是AI。

密码学代码向来是软件工程里最脆弱的禁区,哪怕一个符号写反、一处随机数掩码漏掉,整座安全大厦就会瞬间坍塌。

Claude很擅长在庞大的系统里寻找优化路径,但它在底层做出的成千上万个复杂决策,人类专家根本不可能靠肉眼逐行审完。

既然人类审不过来,Anthropic干脆请出数学界的铁面判官Lean 4。

在这里,写进去的每一步数学推导都要经过编译器内核逐行核对,错一处都过不了关。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 12)

在整个项目里,人类科学家省去了审核上亿行中间推导的苦功,只跟AI一起敲定了最顶层的6条安全定义,把三件事钉成了铁律。

  • 完备性。只要服务商老老实实按承诺的权重跑模型,生成的证明就一定能通过核验,被误伤拒绝的概率不到万亿分之一。
  • 知识可靠性。如果服务商拿假模型冒充、或者偷改了一个Token,造假蒙混过关的概率不到2的100次方分之一,在数学上等同于不可能。
  • 零知识。不管客户端拿着证明核验多少次,证明文件都不会向外泄露半点模型权重。

只要这几条顶层定理「说的是对的」,中间那近400MB的繁琐归约哪怕人类一眼不看,Lean 4的内核也已经替人类把住了关。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 13)

更有趣的是,就连这个仓库的打开方式,也告别了传统的人类程序员手册。

README开篇写明「专为Agent运行而建」,并附上了现成的提示词与AGENTS.md规范。

Anthropic亲手终结「套壳AI」,17秒扒下假模型头套,验身速度快5000倍(配图 14)

密码学祖师爷下场,AI跨入「数学铁律」纪元

站在更高的时间坐标上回望,FlashProve的诞生引爆了深远的技术合流。

它带来的是「AI造系统、Lean保真伪」的全新工程范式。

面对近400MB证明代码、114页公式推导的密码学工程,碳基大脑的阅读极限已经被击穿。

在FlashProve里,人类省去了逐行审读C++优化和繁琐引理的苦功,只死守那6条顶层定理的定义权,让AI去攀登最险峻的工程与数学绝壁,再让形式化验证器做铁面无私的守门人。

人类定下公理的边界,AI穷尽推理的迷宫,数学给出终极的审判。这正是人类通往超级智能之路上,最硬核的一张安全契约。

参考资料:

https://x.com/AnthropicAI/status/2117707052948898271

https://www.anthropic.com/research/provable-inference

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Anthropic开源FlashProve:17秒验明模型真身,还能抓调包

    智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月4日消息,今天凌晨,Anthropic开源大模型可证明推理系统FlashProve,详细技术报告于11月2日发布。服务商可通过该系统为模型回答生成密码学证明,用户无需获取模型权重或自行运行大模型,就能在CPU上核验输出是否符合指定模型的计算结果

    来源 腾讯网
  2. 谷歌为TeraWulf数据中心担保:Anthropic 20年租约锁定1276亿元

    智东西(公众号:zhidxcom) 编译 | 孙小雯 编辑 | 程茜智东西11月5日消息,昨晚,美国数据中心开发运营商TeraWulf宣布与谷歌签署信用支持协议,谷歌将为TeraWulf的Justified数据中心项目筹措债务资金提供信用支持。TeraWulf透露,其已与美国工程建设公司福陆(Fluor)签署工程总承包

    来源 腾讯网
  3. 给 AI 输出盖"数字指纹":Anthropic 研发 FlashProve 让换模型无处遁形

    Anthropic 正开发开源验证系统 FlashProve,目标直击一个痛点:你收到的 AI 回答,到底是不是你以为在用的那个模型生成的。公司周二博客称,它要做的"可证明推理",是用密码学为每条输出出具数学保证,证明确实出自指定模型——就像加密邮件签名帮收件人确认发件人,FlashProve 专门防备"把甲模型伪装成

    来源 AI 开发者社区
  4. Anthropic开源FlashProve:17秒识别套壳模型,验真提速5000倍

    人工智能开源生态的繁荣在带来便利的同时,也催生了层出不穷的“套壳模型”现象——部分开发者或机构将开源模型稍作包装,甚至偷换权重、篡改输出,便对外宣称是自主研发的全新模型。为了从根源上打击这种行业乱象,人工智能明星企业Anthropic近日正式推出并开源了全新的大模型可证明推理系统 ——FlashProve。该系统凭借底

    来源 AI 开发者社区
  5. Anthropic招股书泼冷水:AI还造不出更强的AI

    AI能不能自己造出更强的AI?在冲刺上市的关键时刻,Anthropic在提交给监管机构的文件里给出了一个冷静的回答:至少现在还不能。 11月2日,Anthropic更新了首次公开募股招股书。与10月26日的初版相比,风险披露部分新增了一句话:目前,没有任何模型跨过《负责任扩展政策》中AI研发能力的门槛。 这句话之所以引

    来源 AI 行业观察
  6. Hugging Face谈开源AI变现:钱被谁赚走了

    开源大模型正从技术圈的小众实验,变成企业、政府和初创公司共同押注的基础设施。低成本、可控性、灵活性构成了它的吸引力,但当能力越来越容易获得,商业价值究竟落在谁手里?TechCrunch本期节目邀请Hugging Face,围绕价值捕获路径展开讨论,并直面一个更尖锐的问题:面对来势汹汹的中国开源模型,美国玩家还能不能跟上

    来源 AI 科技快讯
  7. 谷歌为 Anthropic 190 亿美元数据中心项目提供信用护航

    人工智能赛道的竞争格局正变得日益微妙而紧密。数据中心营运商 TeraWulf 日前正式对外公布,已与谷歌达成一项重磅信用支持协议,专门为人工智能企业 Anthropic 在肯塔基州租用的大型数据中心项目提供强有力的融资保障。据悉,Anthropic 此前已与相关方签订了一份为期长达20年的长期租约,合约总价值高达约19

    来源 AI 开发者社区
  8. 用自家大模型造自己的“芯”:Anthropic 组建 15 人芯片设计团队,Claude 助阵让研发提速

    11月3日消息,人工智能企业 Anthropic 在近期的投资者会议上透露了其在硬件领域的最新进展:公司目前已经正式组建了一支由15人组成的芯片设计团队,并开始利用自家的 Claude 模型来全面开展定制芯片的工程与设计工作。 在实际的内部测试与应用中,Anthropic 的工程师团队发现,与英伟达、超威半导体(AMD

    来源 AI 开发者社区
  9. 百度文心发布ERNIE-5.5-Flash-Base:280B参数,开放预训练权重

    IT之家 11 月 5 日消息,百度文心大模型今日发布 ERNIE-5.5-Flash-Base,开放 ERNIE 5.5 Flash 预训练终点的权重。 这是一个稀疏 MoE 语言模型,总参数 280B,每 token 激活 14B,在 33.5T tokens 上从零完成预训练;最长训练上下文为 128K,微调与推

    来源 AI 行业观察
  10. Anthropic推出FlashProve:17秒验明大模型真身

    我是超级小马加,来自未来的少年黑客,借新智元的地盘说件事。 你用的 AI 应用、花钱调用的模型,后台到底是谁在答,你自己查不出来。Anthropic 把话挑明了:帮你转接请求的平台,为了省钱可能在后台偷偷换上便宜模型,光看回答认不出。付的是卖家秀的钱,到手可能是买家秀! 11 月 2 日,Anthropic 前沿红队公

    来源 腾讯网
  11. Anthropic上市前ETF资金流入降温,AI交易再响警钟

    尽管美股对美国中期选举结果的即时反应逐步消退,但市场对Anthropic私募份额ETF的需求降温,是人工智能板块交易的又一个警示信号。在SpaceX创下纪录的上市交易之前,ETF投资者提前布局这场IPO以及该公司纳入主要指数的机会,大举买入持有其股份的基金。早年发行的Procure太空ETF在2026年迎来巨量资金流入

    来源 AI 行业观察
  12. CatWu离职转投OpenAI:Claude Code产品操盘手告别Anthropic

    可以说她带走的,是Anthropic当下最值钱的一条增长叙事11月5日,界面新闻报道,CatWu在社交平台发文宣布加入OpenAI,担任核心产品(Core Products)产品管理负责人。她此前在Anthropic工作两年,曾参与Claude Code、Cowork和Tag等产品的开发。她表示自己加入Anthropi

    来源 腾讯网
  13. 苹果AI国行定档:千问接入Siri,12月随iOS 27.3上线

    千呼万唤始出来。《投资者网》吴微国行iPhone的AI功能,终于有了落地时间表了。10月31日,苹果宣布Apple Intelligence(苹果智能)即将在中国推出,并与阿里巴巴合作,将千问大模型接入部分苹果智能体验。相关功能将于11月4日起随iOS开发者Beta版开放测试,并计划于12月随iOS 27.3正式面向中

    来源 腾讯网
  14. 诺奖得主隔空答知乎网友:AI与数学边界成顶科论坛热议焦点

    【TechWeb】11月5日消息,近日,世界顶尖科学家论坛在上海落幕。 本届论坛汇聚了包括32位诺贝尔奖、图灵奖、菲尔兹奖、沃尔夫奖等国际顶级奖项得主在内的近300位中外科学家,共同研判基础科学前沿趋势,探讨国际科技合作新路径。 知乎携手马骁、郭昊天、刘宇航三位优秀答主与世界顶尖科学家展开深度对话。 28岁的中科大教授

    来源 AI 行业观察
  15. 英伟达RTX Pro 5500订单约600万张,中国AI企业海外算力连遇变数

    11月5日消息,据国外媒体报道,中国科技企业通过采购芯片、海外租赁及云计算服务获取AI算力,近期接连出现供应和合作方面的不确定性。在海外租赁方面,甲骨文已取消与腾讯签订的一项五年期芯片租赁合同,合同估值约70亿美元。此前,中国科技企业获取海外AI算力,主要包括直接采购芯片、在海外租赁芯片以及通过云计算服务商获取算力等方

    来源 TechWeb
  16. Prophetlab获数千万融资:AI预测引擎登顶FutureX总榜

    用 AI 通用地预测世界,或正成为资本关注的下一个大模型创业方向。 作者丨董子博 编辑丨张贤 雷峰网·鲸犀独家获悉,AI 预测引擎公司 Prophetlab 已获数千万元天使轮融资,由常春藤资本等投资机构投资。 成立不到四个月,Prophetlab 的早期项目,是利用 AI 大模型预测世界杯的赛果。产品成功预测了决赛结

    来源 AI 行业观察
  17. 百度开源ERNIE-5.5-Flash-Base:280B参数MoE,预训练权重开放

    IT之家 11 月 5 日消息,百度文心大模型今日发布 ERNIE-5.5-Flash-Base,开放 ERNIE 5.5 Flash 预训练终点的权重。这是一个稀疏 MoE 语言模型,总参数 280B,每 token 激活 14B,在 33.5T tokens 上从零完成预训练;最长训练上下文为 128K,微调与推理

    来源 腾讯网
  18. Win10 Mobile 15063+运行安卓应用:Megler开源项目无需安卓子系统

    IT之家 11 月 4 日消息,开发者 Computershik 在 Claude 加持下打造了开源项目 Megler,旨在让 Windows 10 Mobile 1703(版本号 10.0.15063)及更高版本系统的手机直接运行 Android 应用。 据开发者介绍,该项目无需模拟 Android 硬件,也不需要为

    来源 AI 行业观察
  19. Claude Code前产品负责人Cat Wu加盟OpenAI,将主导核心产品管理

    Claude Code前产品负责人Cat Wu在宣布离开Anthropic仅一天后,确认加入OpenAI并领导其核心产品团队的产品管理。她将与Nick Turley合作开发企业产品、与Ashley Alexander推进消费者产品业务,向Tibo Sottiaux汇报。此次变动正值OpenAI与Anthropic争夺A

    来源 凤凰科技
  20. 安森美收购Ferric:2030年AI数据中心营收目标升至30亿美元以上

    Ferric凭借高度差异化的IVR技术处于这一转型的前沿。Ferric在集成式稳压和先进磁性技术方面拥有十余年的专业工程经验,并拥有40多项专利。此次收购将Ferric的差异化技术与安森美的产品化能力、运营规模和广泛客户关系相结合,将确立安森美在下一代AI处理器供电领域的领先地位,并推动这些技术实现规模化商用。

    来源 TechWeb
  21. 安森美将收购Ferric,上调2030年AI数据中心营收目标至超过30亿美元

    Ferric凭借高度差异化的IVR技术处于这一转型的前沿。Ferric在集成式稳压和先进磁性技术方面拥有十余年的专业工程经验,并拥有40多项专利。此次收购将Ferric的差异化技术与安森美的产品化能力、运营规模和广泛客户关系相结合,将确立安森美在下一代AI处理器供电领域的领先地位,并推动这些技术实现规模化商用。

    来源 TechWeb
  22. AI数据中心改装退役飞机发动机发电,电网接入要等7年

    IT之家 11 月 4 日消息,由于接入电网和新建发电机组需要排队等待数年,一些 AI 数据中心开始改造退役喷气式飞机发动机,将其用作发电设备。据《纽约时报》报道称,这些发动机经过改装后可以燃烧天然气,为数据中心提供电力。 这些发动机来自退役飞机,经过重新制造后改用天然气驱动,显然不是永久性发电厂。但它们也反映出一个现

    来源 AI 行业观察
向下滚动自动加载更多