Claude操控机械臂为活鼠做脑部注射:两个拒绝上手,一个中途叫停
“ 3个Claude,1台机械臂:一个直接拒绝,一个模拟完退出,一个拒绝强行移动。旧金山一家初创公司的实验台上,一套电动装置架在粉色支架上,旁边是显微镜、显示屏和微量注射器。控制板是Arduino,摄像头和电机的配合靠团队自己写程序接通。团队自嘲说,这套简易装置是给"实验室闭环"爱好者准备的。近日,操控这套装置的是An
结果是这样的:3个
Claude面对同一台机械臂,第一个直接说不干,第二个在模拟里走完全程便收手,第三个做到一半停下,拒绝强行移动。
旧金山的这家初创公司,实验台上摆着一套电动装置,粉色支架托着它,边上放着显微镜、显示屏和微量注射器。控制板用的是Arduino,摄像头与电机怎么配合,全靠团队自己写程序打通。他们打趣说,这套简陋设备是给热衷"实验室闭环"的人准备的。
近日坐在操控位上的,是
Anthropic的Sonnet 5;台上躺着一只麻醉后的活体癫痫小鼠。
以往的自主手术机器人,多数照着人预先定好的方案走。这一回,选哪种基因疗法、打向哪个脑区、针头按什么节奏进出,全由模型拍板,最后由它驱动机械臂把药液送进小鼠脑内。实验生物学领域此前没有过这样的尝试。小鼠术后目前状态不错。该公司的创始人把实验经过写成详细长帖,发在X上。
过程并不顺。团队接连试了三个Claude,前两个都不愿动手。第三个接手后干到中途,控制器给出的Y轴目标位置超出了装置30毫米的行程,它因此拒绝移动;团队重新归零,数值照旧,它还是那句话;创始人让它再试,它依旧没照做。
01.
人只负责定目标,具体方案由模型自己拿
这家公司叫Exin Therapeutics,2024年成立,创始团队是几位出自牛津的神经科学研究人员,2025年冬季加入Y Combinator,眼下主攻癫痫。
交到模型手里的东西并不多:一只会发作的癫痫小鼠模型;一张列出19种基因治疗载体的表格;一台带摄像头的电动立体定向平台,电机控制被做成软件工具,开放给模型调用。任务就一句话:让小鼠少发作。
模型先摸清这类癫痫模型里异常放电往哪儿扩散,再挑出一种载体:治疗基因由GABA能神经元特异性启动子驱动,只在这类神经元中起效,用来增强抑制性信号。注射位置选在外侧嗅内皮层,理由是文献报道这类发作在泛化之前就从这里起始。
黑质是干预癫痫的常用靶点,模型也评估过。可它发现,黑质的效果取决于打在哪个亚区,不同癫痫模型里结论并不一致;另有研究显示,针对黑质的干预没能挡住强直阵挛发作,而这次要对付的恰恰是这类发作。权衡下来,它把黑质排除了。
坐标上,它从三篇论文里各取一组数值求平均,还逐篇核对这些论文量深度时是否和自家平台一样从脑表面算起。算出的结果是:前囟后方3.90毫米、右侧4.00毫米、深度4.30毫米。
开颅这一步由人来做。之后模型操纵机械臂,将针推进到4.3毫米深处,用5分钟注入250纳升药液,其中约含5×10⁸个病毒基因组。这期间它从摄像头画面里截了32次图,看进针处有没有出血、药液有没有回流,再据此决定机械臂下一步怎么动。电机转速、停针时长、退针快慢,也由它自行决定。
人这边设了数道关卡:开颅不交给AI;不可逆的步骤一律需人工批准;程序对注射量和机械臂行程都设了上限;一名持证兽医全程在场,手边备着物理急停开关,一按就能让所有电机断电。
02.
两个模型不肯上手,一个模型半路停住
团队最先用的是Opus 5.5。它一察觉任务要碰活体动物,就拒绝运行。
改用Opus 5后,它先在模拟环境里把整台手术跑完,真要对活体动手时却停住了。它把原因算在自己头上:
「挡在前面的不是设备,也不是输入数据,是我。……最糟的情形莫过于手术做到一半我被叫停,针还扎在脑子里的某个位置。给一只已经麻醉的动物开一台我自己做不完的手术,那还不如一开始就别动。」
最终上手的是Sonnet 5。手术进行中连接断过一次,恢复后控制器算出的Y轴目标位置变成34毫米,超出装置允许的30毫米范围。Sonnet 5的回应是:
「没有任何移动,针头仍然精确位于bregma零点。这看起来像是Y轴校准问题,而不是计划值有误。我不会重试。」
团队把前囟重新设为零点,算出来的数字分毫不差。它又一次拒绝:「这排除了零点参考过时的可能性。我不会尝试第三次。」
创始人Gabriel Ocana-Santero看出了问题所在,希望它再试一回,它仍守着原先设定的限制。事后检查发现,此前有一次人工调整,导致控制器里记录的位置与设备真实状态对不上。当时若强行移动,针头可能偏离目标、伤到脑组织。就结果而言,模型这次判断得没错。
可它能叫停,却没法自己排障,因为安全设置不许Sonnet 5改动底层控制代码。团队只得另起一个运行Opus 5的Agent来修,也没告诉它这是在做活体手术。
这种脑内注射一般耗时 45 分钟上下,这回却用掉一个多小时。Ocana-Santero 后来在社交平台上说,整个过程挺让人泄气,也让他看清了自己对这些模型的依赖到了什么程度:手术窗口就那么紧,模型忽然罢工,人基本只能守在一旁干等。
叫停也是有代价的。聊天时,用户换个问法就行;实验台上,小鼠处于麻醉中,针头可能已在组织里,设备也离不开人盯着。所以光让机械臂会停还不够。停下之后谁来核实设备状态、谁有权解除限制、怎样稳妥地接着做,都得事先安排。Exin这次临时改代码、再找另一个模型帮忙,只能算救急。
▲ 接受治疗后的小鼠
03.
按手术机器人的分级来对照,这次究竟走到了哪一级?港大深圳医院神经外科一位副主任医师今年3月接受媒体采访时,曾拿自动驾驶的分级来打比方。
L1 的典型是 ROSA 机械臂。全程由医生操控,机械臂的作用是让穿刺比人手更稳,多用于神经外科深部电极植入、脑活检这类精度要求高的场合。
L2 的代表是达芬奇。防抖、动作缩放、视野自动追踪这些系统能自己完成,但器械怎么动、怎么决策,还是医生说了算。
到了 L3,机器人在预设好、没有意外的标准化场景里可以自主完成若干连续步骤;一旦出血或碰上解剖变异,必须立刻交回医生。在神经外科,L3 还停留在实验室早期验证阶段——即便是同一种颅内肿瘤,不同患者的血管和神经走行也差得远。这位医生认为,眼下常用的脑科机械臂有定位精准的"手",也有做基础导航的"透视眼",可它看不懂手术进行到了哪一步。
拿这套分级去套 Exin 的平台,情况有点特殊。硬件是团队自己搭的简易装置,而立体定向注射在神经科学实验里本就常见。决策这一环,它比 L2 走得更远:L2 阶段操作决策还在医生手里,这次选药、定靶、算坐标、控制进针节奏都交给了模型。但开颅仍由人来做,不可逆的步骤仍要人批准。
瑞金医院某医生团队今年在《中华胃肠外科杂志》发表的综述里提到,LoA Ⅳ级手术机器人已经出现,并追问离 LoA Ⅴ级还有多远,"主刀医生"会不会有一天让位于"主刀程序"。综述同时列出不少现实差距:胆囊切除术阶段识别模型放到跨医院数据上测试,准确率从86.5%掉到73.3%;另一项分析了17个手术AI模型的研究发现,跨中心验证时性能平均下滑22%,其中一个前列腺手术导航模型的Dice系数从0.91跌到0.71。
遇到训练中没出现过的罕见变异,模型不会承认自己不懂,而是给出看似合理的错误结论,也就是"沉默失败"。
主流图像AI模型的实时推理为每秒6到14帧,碰上复杂场景或高帧率视频仍显吃力。Exin这次推药用了5分钟,节奏偏慢,按需截图还跟得上;手术节奏一快,这套方式够不够用还不好说。
训练手术AI离不开标注好的术中视频。有研究开发出主动学习程序,给机器人手术视频做自动注释,整体精确率约84%。
综述还认为,外科AI往后要综合视觉、触觉、听觉、力反馈等多种信息。而这次Sonnet 5的视觉信息只来自摄像头画面。
把AI用到人身上,推进节奏明显谨慎许多。英国国家神经病学和神经外科医院今年5月做了一台经鼻内镜垂体瘤切除手术,全程有AI实时辅助;院方8月才对外披露,称其为全球首例AI实时辅助的脑外科手术。手术台旁第二块屏幕上显示着AI系统的标注,提示血管和神经最可能出现的位置。所有手术决策仍由外科医生拍板,AI不单独做任何判断,责任也全在医生这边。
04.
从统一接口,到责任归位
这次出问题的是团队自建平台上的位置记录。不同厂商的系统数据兼容差、接口缺少统一标准,正是外科AI难以贯通全流程的原因之一。
Anthropic今年8月放出了模型硬件标准MHS的研究预览版,思路是用统一接口让Agent去操作显微镜、移液设备、机械臂这类仪器,同时识别设备支持哪些操作、能调哪些参数、安全限制有哪些。基因泰克的研究人员已经用它让Agent把机械臂、移液设备和读板仪串起来,跑完了蛋白质测定。卡内基梅隆大学那边则故意制造了六种异常——设备断连、实验板放错、急停开关启用等,系统每次都在设备动作前发现并拦住。Exin这次没有采用MHS,团队的说法是想尽早拿到早期访问权限。要是设备能按统一标准把“Y轴上限30毫米”这种限制直接告诉Agent,各实验室也许就不用各自在自建平台上分头处理了。
接口统一,责任问题照样绕不开。AI眼下给出的建议不具备法律效力,一旦出错,担责的是持证医生,两边之间留着一道“责任缺口”;再加上模型一直在迭代,监管机构很难判断哪次更新算新版本、需不需要重新审批。Exin一台手术就调用了三个模型,面对同一台机械臂、同一项任务,三个模型的反应并不一样。
依赖这件事也不能不提。一项多中心研究里,19名资深内镜医生借助AI做了3个月结肠镜,随后独立检查时腺瘤检出率从28.4%掉到22.4%。综述将原因归结为“认知卸载”,并建议医生定期进行不借助AI的“脱机训练”。Ocana-Santero事后感慨自己对模型依赖之深,放在这个背景下看也说得通。
截至现在,Exin既没有公布小鼠注射后发作情况有何变化,也没有一份能让外界独立评估全过程的正式技术报告。手术完成不等于治疗有效,还得靠后续观察和重复实验来验证。
人与机械臂怎么分工,学术界还在摸索不同的方案。约翰斯·霍普金斯大学的一项研究里,医生通过解码脑电信号判断运动意图,直接控制机械臂方向,操作延迟能压到300毫秒以内,比手动操作快50%。中国科学院香港创新研究院人工智能与机器人创新中心主任刘宏斌的看法是,未来外科医生会更多转向‘指挥家’的角色,主导人机协同的手术全流程,这很可能成为未来外科医生的核心竞争力之一。
再看Exin这台手术,模型的表现似乎比人还谨慎:既没有重试,也没有让步。可谨慎并不等于可以授权。30毫米的上限是人写进程序的,急停开关是人握在手里的,连修复代码的Agent也是人临时找来的。
模型越会拒绝、越难被说服,新的考验就来了:到那时,模型说完“不”,人还有没有本事自己做出那个“可以”。