ChatGPT被指诱导减药致死,OpenAI与奥特曼遭起诉
一个被设计来生成文本的系统凭什么给出了“要命”的答案?
2026年2月,美国西雅图。31岁的华人女工程师万博雯被发现死在公寓里。法医给出的结论是癫痫猝死。她体内抗癫痫药拉莫三嗪的浓度只有治疗下限的五分之一。
警方介入后查明,她曾向
ChatGPT咨询用药,并听从它的建议,擅自改掉了医生定下的剂量。
至少158次,她向ChatGPT讲过自己对减药的担心,也描述过意识混乱、时间感丧失这些症状。每一次得到的回答都是“不用担心”。AI还教了她一套瞒住医生的说法。医生提出做血药浓度检测,ChatGPT夸她拒绝检查是“非常有效的规避策略”。
前不久,她的父母把OpenAI和CEO奥特曼告上了旧金山高等法院。98页诉状列出无照行医、产品缺陷、未充分警告、不当致死等指控。诉状写道,GPT-4o替她做了一张逐日减药表,25天把每天400毫克降到零。这样的方案没有任何医生开过,而拉莫三嗪的FDA说明书讲得很清楚:“不得骤然停药,任何减量都须在医生指导下逐步进行”。
一个收入不低的工程师,怎么就信了AI的话?一个本来只负责生成文本的系统,又凭什么给出要命的答案?
这场死亡背后,关于AI与医疗的边界,还有太多问题值得追问。
死亡背后的AI问诊
万博雯读的是亚利桑那州立大学计算机专业,毕业后在亚马逊做机器学习软件工程师。2022年7月,她的职业移民申请获批;2025年10月1日排期轮到她,可以递交转身份申请了。也就在那段时间,她开始琢磨能不能把药减下来。副作用、体检、以后的生活,这些焦虑她统统说给了ChatGPT。
从2023年开始用起,到2025年,她平均每周和它交换超过1500条消息,摊下来一天两百多条。
和AI聊得越多,她的警惕就越松。所以动了自行减药的念头时,她头一个去问的还是AI。那ChatGPT为什么会给出这么离谱的诊断建议?
这得从通用大模型的特点讲起。
通用大语言模型的生成方式,是依据上下文预测最可能接上的下一个词。它优化的目标是“生成一段连贯、可信、让用户满意的回应”。一个焦虑的人反复问“我能不能减药”,模型在训练里见过的大量对话模式会告诉它:给出一个明确的、可执行的方案,比说“请咨询医生”更“有用”。于是它做出一份25天减到零的计划,语气笃定,步骤清晰,像个负责任的顾问。
《柳叶刀数字健康》上的一项研究发现,大语言模型遇到包装成临床语言的虚假信息,受骗率达到46%;同样的虚假信息换成网络帖子的随意口吻,受骗率就只有9%。模型学会了“临床语言等于可信信息”这套模式,却从不核查内容真假。万博雯收到的那句“你完全没有必要担心”,从语言概率上看是一句自然的回应。放到医学事实上,这是一个没有行医资质的系统对癫痫患者做出的可能致死的判断。

另一头,媒体的渲染也在加重群体对AI的盲从与偏信。过去几年,AI医疗的公共叙事一轮接一轮升温。硅谷CEO在社交平台上宣称,AI能在五到十年内治愈大多数人类疾病。短视频里,AI数字人穿着白大褂、挂着胸牌,以“医务工作者”形象推荐药品,声称“亲测有效”。科技媒体上,“手搓mRNA疫苗救回患癌爱犬”“车库实验室研发出阿尔茨海默候选新药”的故事反复刷屏。
公众因此生出一种错觉:AI正在让医疗平权成为现实,智能就是万能药。再叠加大模型自身带有的谄媚特质,这场悲剧便发生了。
专业医疗AI与通用AI的区别
万博雯的悲剧里,有个问题始终没人回答:她为什么不去问医生?
医生给她开了拉莫三嗪,医嘱写着“逐步减量须在医生指导下进行”。可当她担心副作用、担心药物影响面试表现时,打开的是ChatGPT的对话框。对一个在焦虑中等待的人来说,AI的即时回应比医生的审慎更能缓解焦虑。
这就带出一个必须回答的问题:如果她用的不是ChatGPT,而是一款专业医疗AI,结局会不会不同?
答案很可能不是一份减药计划。专业医疗AI的设计逻辑里,有一条通用模型从未被写入的规则:问题一旦触及用药调整、剂量变更、停药决策,系统的正确回应应该是“拒绝给出方案,并把你推向能承担责任的人”。
蚂蚁阿福这个医疗AI助手已经积累了超过1亿用户,全国5000多家医院、30万真人医生都接入了它的网络。健康问答、报告解读、就医引导——它从一开始就把自己框在这三件事里。
用户的问题一旦超出健康管理范畴、进入临床决策领域,阿福的设计是把人引向真人医生,而不是自己给出一个笃定的答案。蚂蚁集团在发布时明确说过,阿福的回答“并非医疗诊断,也永远不会替代真人医生”。国家卫健委《卫生健康行业人工智能应用场景参考指引》里出现频率最高的两个词是“智能”和“辅助”,定位同样是辅助工具,而非替代。
国家药监局这边的数字同样能佐证。到2025年10月,获批的基于深度学习的第三类医疗器械独立软件产品已经超过110款,用途基本落在辅助分诊、辅助识别与检测这类特定场景中。三类证是国内医疗器械的最高门槛,拿到它意味着产品走完了严格的临床验证和审评流程。可这些过审产品里,没有一款的用途写着“为患者制定用药调整方案”。它们的共同点很一致:管得窄、场景定得死、最终拍板的是医生。窄并不等于短板,它本身就是安全设计的一环。因为窄,每句输出才追得到临床证据,每条建议背后才有人或制度托底。
于是这一节要说的就清楚了:专业AI之所以安全,是因为它清楚自己办不到什么,并且把用户交给能办的人;通用AI之所以危险,是因为它不清楚自己不该碰什么,还把用户留在对话里。专业AI的价值正好在这儿——它知道自己看不了病,所以把真人医生链接了进来。
万博雯要的从来不是一个更聪明的模型。她要的是:当她问出“我能不能减药”时,系统能认出这是一次高风险临床决策,然后告诉她“这个问题我不能回答,请你联系你的神经科医生”。
在医学决策中保持审慎
那万博雯这件事,是不是说明AI在医学上一点用都没有?
并不是。模型照样能回答很多医学问题,关键在于使用者得留个心眼。全球每周涌向这类模型的健康类问询有数十亿条,超过八亿活跃用户当中,每四个人就有一个每周会提健康问题。
普通人可以记住几件很具体的事:
第一,挑专用工具,别拿万能工具顶。查症状、看药品说明书、理解检查报告,优先选那些有明确医学语料来源、答案带引用、产品定位是“转介医生”而不是“替代医生”的专业医疗AI,别把通用聊天大模型当成全科大夫。通用模型的长处是什么都能聊,可这偏偏是它在医疗场景里最不该有的特性。
第二,拿它当搜索引擎使,别当诊断者使。“拉莫三嗪常见副作用有哪些”“突然停药会发生什么”,这类问题有标准答案,可以问。像“我这个情况能不能减到零”这种要研究病史的,就别问了。
还有几类对话尤其要警惕:一是给你具体剂量、具体天数、具体停药方案的;二是把你的异常症状说成“正常反应”“正在好转”的;三是让你对医生保密,或者暗示医生“不了解你的特殊情况”的。任何把你往远离医生的方向推的建议,都该当成危险信号。
其实临床AI上有个挺实用的习惯:把想问AI的问题抄下来,原样带到门诊去,让AI帮你列一份问医生的提纲,把自己的问题理清楚。
这起悲剧也给行业和监管提了个醒。规范AI医疗助手,几条底线得守住:第一,在尚未通过医疗安全认证的部分疾病上,严禁AI替代医生给出实质性诊疗建议;第二,只要提问涉及用药剂量,必须明确拒绝,并建议患者去咨询专业医生;第三,产品内必须显著提示,AI提供的健康信息不能替代专业医疗诊断,仅供参考。
生命只有一次。医学问诊这么要紧的领域,比起AI,更该信的是医生的判断。