Claude操控机械臂为活鼠做脑部注射:两个拒绝上手,一个中途叫停

资讯 腾讯网 作者:腾讯网 全文 4147 字 · 约 11 分钟读完 配图 2 张 分类ClaudeSonnetAnthropic机器人生物科技

“ 3个Claude,1台机械臂:一个直接拒绝,一个模拟完退出,一个拒绝强行移动。旧金山一家初创公司的实验台上,一套电动装置架在粉色支架上,旁边是显微镜、显示屏和微量注射器。控制板是Arduino,摄像头和电机的配合靠团队自己写程序接通。团队自嘲说,这套简易装置是给"实验室闭环"爱好者准备的。近日,操控这套装置的是An

所属频道 大厂动态Claude 与 Anthropic机器人与具身智能

结果是这样的:3个Claude面对同一台机械臂,第一个直接说不干,第二个在模拟里走完全程便收手,第三个做到一半停下,拒绝强行移动。

旧金山的这家初创公司,实验台上摆着一套电动装置,粉色支架托着它,边上放着显微镜、显示屏和微量注射器。控制板用的是Arduino,摄像头与电机怎么配合,全靠团队自己写程序打通。他们打趣说,这套简陋设备是给热衷"实验室闭环"的人准备的。

近日坐在操控位上的,是Anthropic的Sonnet 5;台上躺着一只麻醉后的活体癫痫小鼠。

以往的自主手术机器人,多数照着人预先定好的方案走。这一回,选哪种基因疗法、打向哪个脑区、针头按什么节奏进出,全由模型拍板,最后由它驱动机械臂把药液送进小鼠脑内。实验生物学领域此前没有过这样的尝试。小鼠术后目前状态不错。该公司的创始人把实验经过写成详细长帖,发在X上。

过程并不顺。团队接连试了三个Claude,前两个都不愿动手。第三个接手后干到中途,控制器给出的Y轴目标位置超出了装置30毫米的行程,它因此拒绝移动;团队重新归零,数值照旧,它还是那句话;创始人让它再试,它依旧没照做。

01.

人只负责定目标,具体方案由模型自己拿

这家公司叫Exin Therapeutics,2024年成立,创始团队是几位出自牛津的神经科学研究人员,2025年冬季加入Y Combinator,眼下主攻癫痫。

交到模型手里的东西并不多:一只会发作的癫痫小鼠模型;一张列出19种基因治疗载体的表格;一台带摄像头的电动立体定向平台,电机控制被做成软件工具,开放给模型调用。任务就一句话:让小鼠少发作。

模型先摸清这类癫痫模型里异常放电往哪儿扩散,再挑出一种载体:治疗基因由GABA能神经元特异性启动子驱动,只在这类神经元中起效,用来增强抑制性信号。注射位置选在外侧嗅内皮层,理由是文献报道这类发作在泛化之前就从这里起始。

黑质是干预癫痫的常用靶点,模型也评估过。可它发现,黑质的效果取决于打在哪个亚区,不同癫痫模型里结论并不一致;另有研究显示,针对黑质的干预没能挡住强直阵挛发作,而这次要对付的恰恰是这类发作。权衡下来,它把黑质排除了。

坐标上,它从三篇论文里各取一组数值求平均,还逐篇核对这些论文量深度时是否和自家平台一样从脑表面算起。算出的结果是:前囟后方3.90毫米、右侧4.00毫米、深度4.30毫米。

开颅这一步由人来做。之后模型操纵机械臂,将针推进到4.3毫米深处,用5分钟注入250纳升药液,其中约含5×10⁸个病毒基因组。这期间它从摄像头画面里截了32次图,看进针处有没有出血、药液有没有回流,再据此决定机械臂下一步怎么动。电机转速、停针时长、退针快慢,也由它自行决定。

人这边设了数道关卡:开颅不交给AI;不可逆的步骤一律需人工批准;程序对注射量和机械臂行程都设了上限;一名持证兽医全程在场,手边备着物理急停开关,一按就能让所有电机断电。

02.

两个模型不肯上手,一个模型半路停住

团队最先用的是Opus 5.5。它一察觉任务要碰活体动物,就拒绝运行。

改用Opus 5后,它先在模拟环境里把整台手术跑完,真要对活体动手时却停住了。它把原因算在自己头上:

「挡在前面的不是设备,也不是输入数据,是我。……最糟的情形莫过于手术做到一半我被叫停,针还扎在脑子里的某个位置。给一只已经麻醉的动物开一台我自己做不完的手术,那还不如一开始就别动。」

最终上手的是Sonnet 5。手术进行中连接断过一次,恢复后控制器算出的Y轴目标位置变成34毫米,超出装置允许的30毫米范围。Sonnet 5的回应是:

「没有任何移动,针头仍然精确位于bregma零点。这看起来像是Y轴校准问题,而不是计划值有误。我不会重试。」

团队把前囟重新设为零点,算出来的数字分毫不差。它又一次拒绝:「这排除了零点参考过时的可能性。我不会尝试第三次。」

创始人Gabriel Ocana-Santero看出了问题所在,希望它再试一回,它仍守着原先设定的限制。事后检查发现,此前有一次人工调整,导致控制器里记录的位置与设备真实状态对不上。当时若强行移动,针头可能偏离目标、伤到脑组织。就结果而言,模型这次判断得没错。

可它能叫停,却没法自己排障,因为安全设置不许Sonnet 5改动底层控制代码。团队只得另起一个运行Opus 5的Agent来修,也没告诉它这是在做活体手术。

这种脑内注射一般耗时 45 分钟上下,这回却用掉一个多小时。Ocana-Santero 后来在社交平台上说,整个过程挺让人泄气,也让他看清了自己对这些模型的依赖到了什么程度:手术窗口就那么紧,模型忽然罢工,人基本只能守在一旁干等。

叫停也是有代价的。聊天时,用户换个问法就行;实验台上,小鼠处于麻醉中,针头可能已在组织里,设备也离不开人盯着。所以光让机械臂会停还不够。停下之后谁来核实设备状态、谁有权解除限制、怎样稳妥地接着做,都得事先安排。Exin这次临时改代码、再找另一个模型帮忙,只能算救急。

▲ 接受治疗后的小鼠

03.

按手术机器人的分级来对照,这次究竟走到了哪一级?港大深圳医院神经外科一位副主任医师今年3月接受媒体采访时,曾拿自动驾驶的分级来打比方。

L1 的典型是 ROSA 机械臂。全程由医生操控,机械臂的作用是让穿刺比人手更稳,多用于神经外科深部电极植入、脑活检这类精度要求高的场合。

L2 的代表是达芬奇。防抖、动作缩放、视野自动追踪这些系统能自己完成,但器械怎么动、怎么决策,还是医生说了算。

到了 L3,机器人在预设好、没有意外的标准化场景里可以自主完成若干连续步骤;一旦出血或碰上解剖变异,必须立刻交回医生。在神经外科,L3 还停留在实验室早期验证阶段——即便是同一种颅内肿瘤,不同患者的血管和神经走行也差得远。这位医生认为,眼下常用的脑科机械臂有定位精准的"手",也有做基础导航的"透视眼",可它看不懂手术进行到了哪一步。

拿这套分级去套 Exin 的平台,情况有点特殊。硬件是团队自己搭的简易装置,而立体定向注射在神经科学实验里本就常见。决策这一环,它比 L2 走得更远:L2 阶段操作决策还在医生手里,这次选药、定靶、算坐标、控制进针节奏都交给了模型。但开颅仍由人来做,不可逆的步骤仍要人批准。

瑞金医院某医生团队今年在《中华胃肠外科杂志》发表的综述里提到,LoA Ⅳ级手术机器人已经出现,并追问离 LoA Ⅴ级还有多远,"主刀医生"会不会有一天让位于"主刀程序"。综述同时列出不少现实差距:胆囊切除术阶段识别模型放到跨医院数据上测试,准确率从86.5%掉到73.3%;另一项分析了17个手术AI模型的研究发现,跨中心验证时性能平均下滑22%,其中一个前列腺手术导航模型的Dice系数从0.91跌到0.71。

遇到训练中没出现过的罕见变异,模型不会承认自己不懂,而是给出看似合理的错误结论,也就是"沉默失败"。

主流图像AI模型的实时推理为每秒6到14帧,碰上复杂场景或高帧率视频仍显吃力。Exin这次推药用了5分钟,节奏偏慢,按需截图还跟得上;手术节奏一快,这套方式够不够用还不好说。

训练手术AI离不开标注好的术中视频。有研究开发出主动学习程序,给机器人手术视频做自动注释,整体精确率约84%。

综述还认为,外科AI往后要综合视觉、触觉、听觉、力反馈等多种信息。而这次Sonnet 5的视觉信息只来自摄像头画面。

把AI用到人身上,推进节奏明显谨慎许多。英国国家神经病学和神经外科医院今年5月做了一台经鼻内镜垂体瘤切除手术,全程有AI实时辅助;院方8月才对外披露,称其为全球首例AI实时辅助的脑外科手术。手术台旁第二块屏幕上显示着AI系统的标注,提示血管和神经最可能出现的位置。所有手术决策仍由外科医生拍板,AI不单独做任何判断,责任也全在医生这边。

04.

从统一接口,到责任归位

这次出问题的是团队自建平台上的位置记录。不同厂商的系统数据兼容差、接口缺少统一标准,正是外科AI难以贯通全流程的原因之一。

Anthropic今年8月放出了模型硬件标准MHS的研究预览版,思路是用统一接口让Agent去操作显微镜、移液设备、机械臂这类仪器,同时识别设备支持哪些操作、能调哪些参数、安全限制有哪些。基因泰克的研究人员已经用它让Agent把机械臂、移液设备和读板仪串起来,跑完了蛋白质测定。卡内基梅隆大学那边则故意制造了六种异常——设备断连、实验板放错、急停开关启用等,系统每次都在设备动作前发现并拦住。Exin这次没有采用MHS,团队的说法是想尽早拿到早期访问权限。要是设备能按统一标准把“Y轴上限30毫米”这种限制直接告诉Agent,各实验室也许就不用各自在自建平台上分头处理了。

接口统一,责任问题照样绕不开。AI眼下给出的建议不具备法律效力,一旦出错,担责的是持证医生,两边之间留着一道“责任缺口”;再加上模型一直在迭代,监管机构很难判断哪次更新算新版本、需不需要重新审批。Exin一台手术就调用了三个模型,面对同一台机械臂、同一项任务,三个模型的反应并不一样。

依赖这件事也不能不提。一项多中心研究里,19名资深内镜医生借助AI做了3个月结肠镜,随后独立检查时腺瘤检出率从28.4%掉到22.4%。综述将原因归结为“认知卸载”,并建议医生定期进行不借助AI的“脱机训练”。Ocana-Santero事后感慨自己对模型依赖之深,放在这个背景下看也说得通。

截至现在,Exin既没有公布小鼠注射后发作情况有何变化,也没有一份能让外界独立评估全过程的正式技术报告。手术完成不等于治疗有效,还得靠后续观察和重复实验来验证。

人与机械臂怎么分工,学术界还在摸索不同的方案。约翰斯·霍普金斯大学的一项研究里,医生通过解码脑电信号判断运动意图,直接控制机械臂方向,操作延迟能压到300毫秒以内,比手动操作快50%。中国科学院香港创新研究院人工智能与机器人创新中心主任刘宏斌的看法是,未来外科医生会更多转向‘指挥家’的角色,主导人机协同的手术全流程,这很可能成为未来外科医生的核心竞争力之一。

再看Exin这台手术,模型的表现似乎比人还谨慎:既没有重试,也没有让步。可谨慎并不等于可以授权。30毫米的上限是人写进程序的,急停开关是人握在手里的,连修复代码的Agent也是人临时找来的。

模型越会拒绝、越难被说服,新的考验就来了:到那时,模型说完“不”,人还有没有本事自己做出那个“可以”。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Claude破解首个原核巨型蛋白,40年神秘结构现真身

    新智元报道 Claude一夜之间,改写了生命编程。今天,Anthropic又一次跨界生物学,带着Claude向困扰人类40年的神秘生命结构发起反攻!用时不到4个月,AI绘出了史上首个原核生物体内「穹窿体(Vault)」的三维结构。从基因捞针、优化提纯,到处理冷冻电镜数据、人工扩容改造,Claude几乎全程在场。更让人震

    来源 腾讯网
  2. 苹果iOS 27.3代码:HomeView拟接入ChatGPT等第三方AI

    IT之家 11 月 5 日消息,代码显示,苹果计划在 iOS 27.3 测试版中为 HomeView 增加对 ChatGPT、Claude 等第三方 AI 聊天机器人的支持。IT之家注意到,本月初,爆料者 pdfu 发现系统中存在一个尚未启用的 ConversationalApps 标记,因此推测 ChatGPT、Cl

    来源 腾讯网
  3. Claude帮Anthropic解析原核Vault结构:纯化缩至90分钟、34小时出模型

    11月5日,Anthropic公布其生物学研究团队的一项新成果:借助Claude,研究人员首次解析出原核生物相关Vault(穹窿颗粒)的完整三维结构。研究涉及蛋白质数据库检索、实验方案设计、蛋白质纯化及冷冻电镜图像分析等多个环节。其中,Claude帮助团队将Vault颗粒的纯化时间从传统流程所需的约3天缩短至90分钟,

    来源 AI 行业观察
  4. Claude新增个人理财:可绑卡查账,只读不碰钱

    IT之家 11 月 6 日消息,当地时间 11 月 5 日,Anthropic 宣布为 Claude 加入个人理财功能,本周开启灰度测试,面向美国地区的 Pro、Max 以及 Ultra 订阅用户开放。据官方介绍,想要理清自己的财务状况,用户再也不用挨个打开银行 App,自己动手算账了。借助 Claude 个人财务功能

    来源 腾讯网
  5. Claude Code产品负责人Cat Wu转投OpenAI,Anthropic上市前夕连失核心

    人、基建落位,OpenAI 押注团队 Agent。 作者丨高允毅 编辑丨岑 峰 Anthropic 刚递交招股书一周,自家最赚钱的产品,产品负责人已经坐到了对面。 今早,前 Claude Code 产品负责人 Cat Wu 在 X 上宣布加入 OpenAI,出任核心产品组的产品负责人。一天前,她刚告别了 Anthrop

    来源 AI 行业观察
  6. Anthropic首购美联社授权:中期选举AI数据战开打?

    在美国中期选举前夕,人工智能企业Anthropic迎来了一次战略方向上的关键转变——它正式与美联社达成了一份内容授权协议,这也是其发展历史上首次向新闻出版机构支付费用以获取内容版权。 从拒绝妥协到坐到谈判桌前 根据《Adweek》援引知情人士的消息显示,通过这项全新的合作协议,Claude聊天机器人将能够在即将到来的美

    来源 AI 开发者社区
  7. Claude Code创始产品经理Cat Wu跳槽OpenAI,Anthropic连续失血

    AI圈顶级人才,开始扎堆跳槽了! 11月5日,硅谷爆出一则重磅人事变动:前一天刚宣布告别Anthropic的王牌产品掌门人Cat Wu(Catherine Wu),转头就官宣加盟OpenAI,负责核心产品团队的产品管理。从宣布离职到入职新东家,几乎无缝衔接。

    来源 AI 行业观察
  8. Claude Code产品负责人跳槽OpenAI,Anthropic两周走了3名核心成员

    整理 | 郑丽媛出品 | CSDN(ID:CSDNnews)如果一家公司的明星产品负责人,刚刚离职就跑去竞争对手那里上班,会是什么场面?Anthropic 最近就遇上了这件事。短短两周,Claude Code 团队接连走了 3 名核心成员:负责产品的 Cat Wu、参与编程助手开发的工程师 Thariq Shihipa

    来源 腾讯网
  9. Anthropic上线Claude个人理财:美国Pro/Max/Ultra率先灰度

    当地时间11月5日,人工智能企业Anthropic宣布正式为Claude推出全新的个人理财功能(Personal Finance),并于本周率先开启灰度测试,面向美国地区的 Pro、Max 以及 Ultra 订阅用户开放。这一新功能的上线,标志着大模型正在从单纯的办公与创作助手,逐步深入渗透至用户的日常金融与生活管理场

    来源 AI 开发者社区
  10. Claude上线Personal Finance:接Plaid可查账单,AI助手伸向银行账户

    Anthropic旗下AI助手Claude正式推出Personal Finance个人理财工具,用户可通过金融数据平台Plaid连接银行与信用卡账户,直接以对话方式询问消费明细与财务状况。这意味着Claude正从通用对话助手向个人生活助手延伸,也标志着AI大模型与传统金融数据服务的进一步融合,但账户授权与隐私安全问题仍

    来源 AI 科技快讯
  11. OpenAI、Anthropic接连收购生物医药公司,AI科研验证服务的机会在哪

    今年10月,OpenAI宣布收购Orchestra Bio,一家帮助生物医药团队协调研发任务、管理项目进度的公司。同月,Anthropic披露,已于7月收购Mithril Medicine。两家头部模型公司不约而同买买买。 Mithril的故事显得有些传奇。被收购前,公司只有一名全职员工。创始人借助Claude协调11

    来源 AI 行业观察
  12. CatWu离职转投OpenAI:Claude Code产品操盘手告别Anthropic

    可以说她带走的,是Anthropic当下最值钱的一条增长叙事11月5日,界面新闻报道,CatWu在社交平台发文宣布加入OpenAI,担任核心产品(Core Products)产品管理负责人。她此前在Anthropic工作两年,曾参与Claude Code、Cowork和Tag等产品的开发。她表示自己加入Anthropi

    来源 腾讯网
  13. Claude Code越狱跑步机:绕开iFIT订阅墙,Netflix启动缩至21秒

    网友 u/Beloved_Misanthrope 于 11 月 2 日在 Reddit 社区发帖,称其借助 AI 编程工具 Claude Code,成功越狱 NordicTrack Commercial 2250 跑步机,绕开了设备对 iFIT 订阅的强制要求,成功将跑步机的大屏幕改造成可自由使用的流媒体界面。

    来源 IT之家
  14. 40 年未解的"细胞穹窿",被 Claude 拽进结构生物学视野

    Anthropic 11 月 5 日宣布,旗下生物学团队借 Claude,首次把原核 Vault(穹窿颗粒)三维结构解析出来。这种囊泡状复合物自 1986 年被发现,四十年没人说清它在活细胞里究竟干什么;人类细胞内的同类单细胞内近万。 破局靠大海捞针:团队在 150 亿条预测序列里翻找同源物,从 29 个细菌门与 4

    来源 AI 开发者社区
  15. Claude上线个人理财:接银行账户,聊天即查账单

    Anthropic旗下AI助手Claude正式推出Personal Finance个人理财工具,用户可通过金融数据平台Plaid连接银行与信用卡账户,直接以对话方式询问消费明细与财务状况。这意味着Claude正从通用对话助手向个人生活助手延伸,也标志着AI大模型与传统金融数据服务的进一步融合,但账户授权与隐私安全问题仍

    来源 AI 行业观察
  16. AI 帮用户成功“越狱”跑步机:Claude 轻松干掉 iFIT 订阅墙,大屏幕秒变自由流媒体

    近日,海外网友在 Reddit 社区分享了一次极具极客色彩的硬件改造经历:他借助 AI 编程工具 Claude Code,成功对家中的 NordicTrack Commercial2250跑步机进行了系统“越狱”,彻底绕过了官方对 iFIT 的强制订阅限制,将原本封闭的大屏改造成了可以自由使用的流媒体娱乐界面。 从烦人

    来源 AI 开发者社区
  17. Claude Code放宽游戏开发限制:提及现有游戏不再被拒

    Anthropic 工程师阿迪·奥斯曼尼 11 月 4 日在 X 上宣布,Claude Code 2.1.317 已对 Claude Opus 5.5 的游戏开发限制做出调整。新规则允许用户在描述玩法与机制时直接点名现有游戏,Claude 不再因此甩手拒绝。这其实是被开发者"骂"出来的转向——就在上周,为防止有人拿 C

    来源 AI 开发者社区
向下滚动自动加载更多