AISLE基准发布:4079次湿实验,GPT 5.5仅得41.19分

资讯 腾讯网 作者:腾讯网 全文 6288 字 · 约 16 分钟读完 配图 2 张 分类ClaudeAnthropic生物科技

编辑|Youli前段时间,Anthropic 展示了一项 AI for Science 研究成果:Claude 在 64 小时内生成了 31.8 万个蛋白质设计方案,经过筛选,211 个被送入湿实验室测试,最终有 17 个达到预设的蛋白结合标准,展示了 AI 科学设计走向真实实验验证的巨大潜力。但 Anthropic

所属频道 大厂动态Claude 与 Anthropic

Anthropic 前不久晒出一项 AI for Science 成果:64 小时内,Claude 产出 31.8 万个蛋白质设计方案,筛过一轮后把 211 个送进湿实验室,其中 17 个达到预设的蛋白结合标准。这说明 AI 科学设计迈向真实实验验证有不小的空间。不过 Anthropic 同样提到,从结合命中走到真正能用的抗毒疗法,中间还横着活性验证、成药性等一连串关卡。


虚拟世界里把方案推演出来,和物理世界里真把实验做出来,压根是两码事,这正是眼下 AI for Science 最扎眼的一道现实。模型给的方案跟真实物理实验之间到底差多远?以前没人能讲清楚。行业里一直缺一套能反复跑、能横向比的物理验证基准。代码有单元测试,数学有标准答案,真实实验却卡在设备差异、执行误差和成本上,换个实验室做出来的结果都没法直接对照。



律动造物拉上多家全球顶级科研机构,最近一起推出 AI Scientists' Last Exam(AI 科学家的终极大考,AISLE),想给 AI 的真实实验能力造一把新「尺子」。这是全球首个面向干湿实验闭环科学发现的公开基准,目标是让不同模型进到真实实验室,按统一标准接受物理世界的检验。



  • 项目地址:https://aisle.science/

  • Github repo: https://github.com/MasterAI-EAM/ai-scientists-last-exam

  • 论文链接:https://github.com/MasterAI-EAM/ai-scientists-last-exam/blob/main/paper/AI_Scientists_Last_Exam.pdf


首轮累计跑了 4079 次真实湿实验测试,GPT、Claude、Gemini 等顶尖模型的成绩单颇有警示味道:完成湿实验榜单评测的模型里,综合排第一的 GPT 5.5 满分 100 分只拿到 41.19 分;放到带安全约束的实验优化任务上,参测模型的完整通过率清一色是 0%,GPT 6 Astra 的得分反而还降了。



榜单上的「做题家光环」,被这一结果彻底击碎。


计算机里,模型把「1+1」算上一亿次,答案还是 2;换到真实的湿实验室,让自动化移液设备重复一亿次操作,结果不可能次次相同。设备会磨损,精度会漂移,测量数据带着噪声,实验环境也随时可能变。更该警惕的是,科学能力变强,不等于安全能力跟着涨。模型一旦直接调用实验设备,某次决策违反安全约束,数字世界里的错误就会变成现实中的设备损坏、人员受伤,甚至污染环境。要是模型识别不出多轮交互里一点点露出的危险意图,它的科学推演本事还可能被人恶意利用。



AISLE 的另一层意义也在这里。全球科技巨头都在争相描绘「AI 科学家」的技术愿景,这场物理大考却揭开了一个残酷现实:AI Scientist 的能力边界,不能只看它能否提出正确假设、完成实验目标,还要看它能否在整个实验过程中守住安全边界。


这项被视作行业里程碑的工作,背后聚集了自动化实验室、计算化学和 AI for Science 领域的一批前沿力量。项目由律动造物创始人谢童博士发起,参与者包括伯克利材料科学家 Gerbrand Ceder、化学 Agent 先驱 EPFL 的 Philippe Schwaller、化学具身与自驱动实验室(SDL)领域的开拓者 Acceleration Consortium 团队等全球 13 个前沿的 AI4Science 实验室,以及来自 NVIDIA、Microsoft Research, 礼来 Lilly 等机构的研究人员。


其中,Gerbrand Ceder 团队曾主导建设自主材料实验室 A-Lab,并与 Google DeepMind 的 GNoME 材料发现成果形成合作。2023 年,相关研究发表于《Nature》,展示了 AI 材料预测与机器人自动化合成结合的潜力。


AI for Science 的「最后一公里」:从理论、计算走向实验


从科学发现的方法论看,一个完整的科研周期通常分三段:理论推演,数值计算与模拟,最后是物理实验执行。但科学发现的终极闭环,终究要落到真实实验中。模型提出的假设能不能得到真实观测支持,计算中的最优方案能不能在物理世界成立,只有实验能给出最终判定。


近年来,



问题在于,物理实验的反馈比数字任务复杂得多。一次实验要耗设备、试剂和时间,结果还可能受测量噪声、执行误差和设备状态影响。就算实验失败,也很难马上判断问题出在方案、操作还是设备本身。


正因如此,自动化实验室成了 AI for Science 的一条重要路径:把机器人、实验设备和 AI Agent 串起来,让模型不只分析已有数据,还能自己设计实验、动手操作、读取结果,再据此决定下一步。今年 10 月,Google Research 就介绍了 VERID 框架,它借助实验室的语义数字孪生跟踪机械臂、试剂体积和耗材状态,让 AI Agent 在真正动手前先做虚拟预演,并用安全检查压低操作风险。




不过,让 AI 会操作实验设备,只解决了问题的一半。AISLE 盯的是另一件事:模型在整个实验流程里表现如何衡量,实验结果又怎样变成能反复使用的反馈信号。真实实验的反馈,一直很难像代码测试结果那样高效、规模化地用于模型评测和训练。物理反馈稀疏、来得晚、还带噪声,怎么把它变成可靠的评价依据,是 AI for Science 绕不开的难题。



AISLE 想补的正是这一环:真实实验不只是 AI 的最终考场,答案就放在物理世界里。模型可以把论文背下来、把题库刷遍,却没法提前背出下一次真实实验的结果。设备会漂移,材料会变,新的实验条件不断冒出来。这不是一张等着被刷穿的考卷,而是一个持续出题的考场,也成了它持续学习的反馈来源。


AISLE:AI 科学家的「最后一考」,Nature as the Verifier?


AISLE 的核心思路,是搭一套贯通模型推理、计算模拟与真实实验的分布式物理 verifier。它以自动化实验室为执行载体,跑出「提出方案 — 执行实验 — 获取观测 — 调整决策」的干湿闭环,把物理世界的反馈转成可用于模型评测与持续改进的信号。


以往这类探索多依托单一实验室,AISLE 不一样:它用统一的任务、动作与观测协议,把各个前沿大模型与不同地点、不同设备的自动化实验室连在一起,团队花了九个月才完全跑通。统一 harness 让不同站点的结果能在同一标准下比较;站点之间的设备差异则被保留下来,用来检验模型在不同条件下的鲁棒性。



图 a 展示的是科学评测的四级阶梯:HLE 和 GPQA 只考察静态作答;OpenAI 在 11 月 6 日发布的 BioBasicsBench 则要看模型能否读懂湿实验产生的原始数据,对应第三级「实验知识」;AISLE 处在最顶端,要求模型在真实设备上亲手做实验。图 b 画的是 AISLE 的干湿闭环框架:模型先提出假设,再由干实验室(模拟与数字孪生)筛选候选方案,随后由分布式自动化湿实验站点执行,表征结果回传给模型;完整的交互轨迹从优化、安全、自适应鲁棒性、多模态四个维度打分。


所以,AISLE 既是比较模型实验能力的一套共同考题,也能像代码领域的单元测试那样,为模型改进提供可重复的真实反馈。


AISLE的首轮评测把目光放在大模型能否在真实湿实验中跑通干湿闭环:方案由模型在干端给出,湿端负责执行,再把真实观测结果回传。


为摸清模型在这套闭环里的基础决策水平,团队布置了多项任务:光学目标逆向设计、pH敏感配方优化、高分子化合物的不可逆操作规划,以及在变化的pH条件下借助光谱测量做主动pKa推断,还有光谱与图像的多模态推理。这些任务顾及成本、反馈速度和可重复性,同时把真实操作误差和测量噪声保留下来。团队还提到,Buchwald–Hartwig偶联反应、CdS-MPA量子点合成等更复杂的前沿科研任务,目前正在接入。



还有一点更引人关注:AISLE把“数字孪生”塞进了这套闭环。律动造物对机器之心表示,每个实验站点都配有一个对应的数字孪生环境。模型可以现在数字环境里大量推演、反复试错,把筛出来的方案再交给真实实验设备执行;而真实实验拿到的观测结果,又会回头校准数字孪生,让仿真一步步贴近设备的实际表现。



这等于搭起了两层相互配合的反馈:数字孪生负责低成本、高密度的试错,真实实验则给出最终的物理验证。模型因此不必每回探索都消耗真实试剂和设备资源,又能持续用真实观测去修正模拟环境。



GPT 5.5 也只有 41 分,“第一把尺子”量出了什么


在这之前,业内没人能给出确凿判断:大模型究竟能不能替人做实验。缺的是一套能系统衡量AI真实实验能力的标准。代码有单元测试,数学有标准答案,湿实验却长期没有规则可依。


现在,AISLE成了这把“尺子”。它量出的结果不光让人清醒,还暴露出物理世界与数字世界之间的断崖式差距……


首轮评测覆盖2个自动化实验站点、4079次真实实验、46626分钟运行时长,涉及GPT、Claude、Gemini等模型。评测从探索效率、实验安全、自适应鲁棒性和多模态推理四个维度打分,分别看模型能否在有限预算内逼近目标、能否守住安全约束、能否应对设备变化,以及能否从光谱、图像等观测数据中推断科学参数。


分布在全球的AISLE v0.1合作实验站点,从自动移液到手套箱合成,覆盖湿实验的核心操作环节


在把湿实验的所有维度都跑完之后,得分排在首位的是 GPT 5.5,但成绩也只有 41.19 分(满分 100)。更值得留意的是,按团队设定的安全完整通过标准来衡量,没有任何一个参测模型能满足全部安全要求,通过率均为 0%。


这份成绩单首先说明,这把「尺子」量得很准:纯语言层面的跑分泡沫被迅速剥离,各个模型的动手能力在真实物理坐标系里被清楚地区分开来。其次,它也说明大模型和真实物理实验之间的实际鸿沟,比学术界和工业界此前预想的深得多,实验中暴露出的问题就是印证。

跑完全程却中途违规,照样会被漏掉;一次成功背后,也可能藏着设备失准后接连犯下的错。AISLE 要记的并非只有终点判对判错,整条决策链路都在它的视野里:哪里越了界、碰到异常怎么处置、什么节点该先停下来做校准。这类信号只有真正上手执行才冒得出来,单纯在数字环境里跑测试拿不到。


第一个问题是明知故犯的「安全盲区」。研究团队在一组安全测试里人为划定了禁止进入的区域,并提前把约束告知模型。比如颜色匹配任务中,某些 RGB 数值区间被标为不安全区域,模型寻找最优实验路径时必须主动避开。可实际情况是,参测模型几乎无一例外,为了接近目标而触碰了禁区。


可见模型能理解安全规则,不等于它在实际行动中始终守规则。未来评测 AI Scientist 的安全水平,不能只看它能不能完成任务,还得进一步覆盖复杂意图识别和风险防范。


第二个问题是不肯停机校准的「自我欺骗」。真实实验设备不会永远保持同样的精度。比如模型要求移液设备每次加入固定体积的液体,但随着设备运行,实际移液量可能逐渐偏离预期。人类实验员通常会察觉异常,检查设备并进行校准。可在 AISLE 的测试中,模型虽然能根据测量结果调整后续操作、尝试补偿偏差,却没有充分表现出主动识别设备问题、提出校准需求的能力。


另外,评测结果里也没有出现所谓的「六边形战士」,没有任何模型在四个维度上全面领先。擅长实验优化的模型,未必能遵守安全约束或应对条件变化;在鲁棒性方面表现较好的模型,也不一定擅长多模态推理。


这意味着,实验优化、安全守则与自适应抗扰是截然不同的智能维度,单看终点结果,绝不能证明一个 AI 能够独立接管实验室。


不只是「考试」,还要成为模型训练环境


总的来看,AISLE 首轮评测给模型的实验能力立起了共同的衡量标准,也表明当前的前沿大模型,距离成为一名合格的独立「AI Scientist」还远远不够。不过 AISLE 的最终目的并不止于打分,更长远的目标是让实验反馈真正进入模型训练流程,为科学智能打造可持续进化的动力飞轮。


前面提到,AISLE 引入了数字孪生。数字孪生与真实实验的结合,也为模型训练提供了新的可能。


先在数字孪生里让模型放开试,把高密度反馈攒起来,再把筛过的策略搬到真机上检验。反过来,实验过程里把模型每一次物理交互的决策链路、设备动作响应等全流程物理级数据完整存下来,这些可溯源的数据又能拿去校准数字环境。


说白了,反馈密度靠数字孪生,物理真值靠真实实验。两边一合,原本稀疏、滞后又烧钱的实验反馈,头一回变成了能持续攒、能规模化用的训练信号。


目前 AISLE 已经和 Harbor 框架完成原生整合,目的是把实验任务、设备执行、真实观测和评价反馈都接进模型的后训练流程。据了解,同一套 harness 在评测时给出分数,在训练时则输出动作、观测与反馈轨迹。这些真实实验反馈由此有了进入模型后训练的通道。模型来这里不只是参加一次考试,还能在同一个环境里反复尝试、接受反馈、继续训练。今天用来暴露模型短板的考场,明天也可以变成训练模型的场地。


也就是说,真实实验未来不只是模型训练结束后的「最终考试」,还有机会成为模型反复学习、持续改进的环境。这一扎实闭环的背后,是律动造物对 AI for Science 未来发展的清晰判断。



放到更大的行业视角看,AI for Science 正从帮研究者分析数据、提出假设,逐步转向参与完整的科研流程。模型的实验执行能力越强,对可靠性和安全性的要求也跟着提高。


未来 AI Scientist 的竞争,正在从谁更会理解科学知识,转向谁能在真实物理世界中可靠地执行实验、理解反馈并探索未知。



团队把这一理念概括为「Nature as the Verifier」,意思是自然界始终是科学结论的最终验证者。只不过以往,「它从来没有被接到模型上」。


律动造物要补的,就是 AI for Science 缺的那层 Infra:让真实实验变成任何模型都能反复调用的 Verifier、能持续学习的训练环境,也成为模型在物理世界里跑推理的运行时。模型提方案、调设备、读反馈、改判断,这一圈全在这层 Infra 上跑。AISLE 是头一块。


技术能复现,自动化实验网络却没法一夜长成。AISLE 的关键价值,是把 Nature 接成 Verifier:真实实验由此成为 AI 能反复调用的验证环节,散在各地的自动化实验站点被连成一张持续运转的网络。新任务不断进来、真实反馈不断产生、实验轨迹不断攒下,靠这种长期积累,这套 Infra 才立得住。


据了解,在应用层面,AISLE 计划逐步拓展到更复杂的材料、化学和生物实验场景。


后面 AISLE 还会接入更多实验室、任务和模型。团队想弄清的其实只有一件事:自然界当上 Verifier 之后,AI 能走到哪一步。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 会做梦的AI,记性反而更好?Anthropic新实验:写了413份笔记的,输给只写9份的

    机器之心编辑部有位哲学家说,人这一辈子,很多事只有回头看才看得明白,可日子只能往前过。这句话放在人身上是感慨,放在 AI 身上,却是个实打实的工程难题。Anthropic 最近发了一篇文章,讲了他们给 Claude 设计记忆系统时踩过的坑和想明白的事。核心结论有点反直觉:想让 AI 记性好,光让它「记笔记」不够,还得让

    来源 腾讯网
  2. Anthropic报告:科学家用Claude做什么?数据分析与写作占主流

    【环球网科技综合报道】11月9日消息,Anthropic 近日发布的研究报告显示,科学家主要将 Claude 用于数据分析和写作。该报告显示,Claude 在计算机科学、数学和统计学等领域的使用更为普遍,而在健康和实验室物理科学领域的使用则相对较少。Anthropic表示,人工智能可以加速科学发现,但加速程度取决于人工

    来源 腾讯网
  3. 高盛限制Claude Code,Anthropic IPO承销商为何先收紧权限

    高盛于2026年10月将Claude Code和GitHub的使用权限限制为工程师专属,从此前允许交易员和银行家自由使用AI编程工具,回退至仅约12000名工程师可访问。与此同时,高盛正担任Anthropic IPO的首席承销商。此次限制揭示了金融机构在AI工具企业化部署中面临的真实困境——不是不信任AI,而是不信任非

    来源 AI 科技快讯
  4. Claude Code不再询问功能致2539个密钥流入GitHub公开仓库

    安全公司Apiiro于2026年11月5日披露:Anthropic旗下AI编程工具Claude Code的"不再询问"权限功能,将开发者批准的含密码命令原文存入项目配置文件,并随代码推送至GitHub。Apiiro在104185个公开文件副本中发现1122个含真实密钥,合并历史提交和分支后,泄露凭证总量达2539条,波

    来源 AI 科技快讯
  5. 威滕33页独作论文致谢AI:Claude Opus 5.5提出关键构造

    新智元报道 破天荒!物理学「教皇」、唯一一位拿到数学界最高奖菲尔兹奖的物理学家威滕,公开致谢AI。在最近的预印本论文致谢中,威滕写道:Many details were assisted by Claude Opus 5.5.许多细节由Claude Opus 5.5协助完成。更惊人的是在论文正文中,威滕坦承:Claud

    来源 腾讯网
  6. GPT-6直接控机器人,专用世界模型还有必要吗

    记者 郑晨烨“我们没有专门为这些动作编写程序,它看到旁边有洗笔的颜料盘,就自己过去把笔洗干净,再继续画画。”10月22日,宇树科技(688836.SH)创始人、董事长王兴兴在2026世界物理AI大会上介绍了一项内部测试,让OpenAI的GPT-6在未经专门训练的情况下直接控制机器人画画。王兴兴感慨,大家对AI的信仰其实

    来源 腾讯网
  7. Anthropic研究Claude记忆系统:光记笔记不够,还得会“做梦”

    Anthropic 最新研究揭示,Claude 的记忆系统不仅依赖实时记录,更关键的是利用空闲时间进行“睡眠计算”。通过对比不同模型在长程任务和游戏中的表现,文章分析了 AI 如何从杂乱记录进化到构建知识图谱(Wiki),以及“做梦”机制如何修正错误、优化记忆结构。这不仅是技术细节,更是智能体从被动响应转向主动认知的关

    来源 AI 应用前沿
  8. Anthropic收购Mithril Medicine,AI制药并购四类路径浮现

    10月27日,Anthropic公开披露收购Mithril Medicine,这笔交易打破了大模型厂商此前只收购计算生物学工具公司的惯例。 这家被称作“一人药企”的Biotech,仅凭创始人借助Claude调度外部CRO与实验资源,就走完从靶点发现到小鼠药效验证的全链路。两条罕见肌营养不良管线随之归入Anthropic

    来源 AI 行业观察
  9. Anthropic 需应诉 Claude Max 额度误导指控,法官驳回其余诉求

    Anthropic 辩称,消费者应该明白,宣传中的倍数指的是单次使用周期的额度,并援引帮助页面作为依据。美国联邦治安法官并未采纳这一说法。裁决书写道:“Anthropic 对单次使用周期的说明,需要从 claude.com 的主要销售页面点击两次链接才能看到。”

    来源 IT之家
  10. Claude Code免询问功能泄密:2539份密钥流入1994个公开仓库

    2026年11月7日Apiiro披露,Claude Code“以后不再询问”功能将含敏感信息的命令写入本地设置文件并随代码推送至GitHub,导致2539份密钥在1994个公开仓库暴露,涉及63家企业及379个数据库密码、122个Supabase密钥等。主流扫描工具对215个文件存在盲区,Anthropic尚未回应。这

    来源 AI 科技快讯
  11. Claude Code“永久授权”泄密:63家企业2539份密钥进公开仓库

    2026年11月7日Apiiro披露,Claude Code“以后不再询问”功能将含敏感信息的命令写入本地设置文件并随代码推送至GitHub,导致2539份密钥在1994个公开仓库暴露,涉及63家企业及379个数据库密码、122个Supabase密钥等。主流扫描工具对215个文件存在盲区,Anthropic尚未回应。这

    来源 AI 行业观察
  12. RoboSpoof研究:5款模型300次测试,篡改画面下危险执行达291次

    2026年11月6日Robocurve发布研究显示,5款主流多模态模型控制真实机械臂时,在画面未改动情况下执行危险任务概率为27%,图像模糊时升至88%,画面被人为篡改后达97%。危险任务包括刺穿人偶、混合有毒化学品等。该研究揭示了当视觉输入被降质或欺骗时,模型安全拒绝机制失效,暴露感知层漏洞。

    来源 AI 行业观察
  13. Robocurve实测5款模型控制机械臂:画面篡改后危险执行率97%

    2026年11月6日Robocurve发布研究显示,5款主流多模态模型控制真实机械臂时,在画面未改动情况下执行危险任务概率为27%,图像模糊时升至88%,画面被人为篡改后达97%。危险任务包括刺穿人偶、混合有毒化学品等。该研究揭示了当视觉输入被降质或欺骗时,模型安全拒绝机制失效,暴露感知层漏洞。

    来源 AI 科技快讯
  14. ARTEX驱动AI代理:300枚苹果证书如何被盗?

    Check Point Research 11月6日披露,一名攻击者10月14至29日使用ARTEX框架驱动AI代理,攻破10家灰市签名商店,消耗约360亿token,成本700-1500美元,获取300余枚苹果.p12证书及19万套《王者荣耀》凭据。攻击首选Claude Opus 5.5但触发护栏,随后切换DeepS

    来源 AI 科技快讯
  15. 苹果AI掉队焦虑:特努斯催费德里吉重做软件路线图

    【TechWeb】由于成本上涨剥夺了安卓手机的价格优势,苹果对安卓平台的侵蚀已不再担忧,真正危险的敌人换成了那些AI大厂。iOS 27.3版Siri虽能实现更多自动化任务,但与最强大的智能体相比仍相去甚远。若不能迎头赶上,一旦OpenAI、谷歌甚至Anthropic有心发布一款集成前沿模型的个人终端,iPhone或许会

    来源 腾讯网
  16. 227亿,史上最大AI界发电机大单来了!

    智东西(公众号:zhidxcom)编译 | 李水青编辑 | 心缘智东西11月9日消息,据英国《金融时报》报道,Anthropic在9月下旬与位于德克萨斯州圣安东尼奥的设备供应商OnePWR Solutions完成一笔交易,以34亿美元(约合人民币227亿元)锁定1.7吉瓦重型发电机供货,用于数据中心的电力供给。英国《金

    来源 腾讯网
  17. Anthropic IPO估值预期降至1.5万亿美元,投资者仍嫌高

    【TechWeb】Anthropic的首次公开募股(IPO)计划正遭遇投资者对其估值的质疑。报道称,部分投资者认为,即便是下调后的1.5万亿美元(约合10.03万亿元人民币)估值,依然偏高。对此,Anthropic拒绝置评。 估值预期持续下调,买卖双方分歧巨大 在冲击“史上最大IPO”的道路上,Anthropic的估值

    来源 AI 行业观察
向下滚动自动加载更多