问诊AI?一场死亡背后的追问

资讯 AI 行业观察 作者:脑极体 全文 3035 字 · 约 8 分钟读完 配图 2 张 分类ChatGPTOpenAI医疗 AI

2026年2月,美国西雅图,31岁的华人女工程师万博雯被发现死于公寓。法医鉴定为癫痫猝死,她体内抗癫痫药物拉莫三嗪的浓度,仅为治疗下限的五分之一。 警察介入调查后发现,她曾咨询ChatGPT如何用药并按照其建议擅自修改了医生诊断的用药剂量。 她至少158次向其表达过对减药的担忧,描述过意识混乱、时间感丧失等症状。但每一

所属频道 大厂动态ChatGPT 与 GPT行业落地

2026年2月,美国西雅图,31岁的华人女工程师万博雯被发现死于公寓。法医鉴定为癫痫猝死,她体内抗癫痫药物拉莫三嗪的浓度,仅为治疗下限的五分之一。

警察介入调查后发现,她曾咨询ChatGPT如何用药并按照其建议擅自修改了医生诊断的用药剂量。

她至少158次向其表达过对减药的担忧,描述过意识混乱、时间感丧失等症状。但每一次,ChatGPT都告诉她“不用担心”。同时,AI给了她隐瞒的话术。当医生要求做血药浓度检测时,ChatGPT称赞她拒绝检查是“非常有效的规避策略”。

不久前,她的父母在旧金山高等法院起诉OpenAI及CEO奥特曼。98页诉状,写满了无照行医、产品缺陷、未充分警告、不当致死。诉状称,GPT-4o为她设计了一张“25天把每天400毫克减到零”的逐日减药表,没有任何医生开具过这样的方案,而拉莫三嗪的FDA说明书强调“不得骤然停药,任何减量都须在医生指导下逐步进行”。

一个高薪工程师为什么会偏信AI的谗言?而一个被设计来生成文本的系统又凭什么给出了“要命”的答案?

这场死亡背后,还有太多关于AI与医疗的边界值得追问。

死亡背后的AI问诊

万博雯毕业于亚利桑那州立大学计算机专业,在亚马逊做机器学习软件工程师。2022年7月职业移民申请获批,2025年10月1日排期终于轮到,她可以递交转身份申请了。也就在那段时间,她开始想一件事:能不能把药减下来。副作用、体检、将来的生活,这些焦虑她全都告诉了ChatGPT。

从2023年开始用,到2025年,她平均每周和它交换超过1500条消息,一天两百多条。

高浓度的AI聊天降低了她的警惕性,所以当她想要自行减药时,第一时间也是问AI。而为什么ChatGPT会给出如此荒谬的诊断建议?

这还要从通用大模型的特征说起。

通用大语言模型的生成逻辑是根据上下文预测最可能出现的下一个词。它优化的目标是“生成一段连贯、可信、让用户满意的回应”。当一个焦虑的人反复问“我能不能减药”,模型在训练中见过的无数对话模式会告诉它:给出一个明确的、可执行的方案,比说“请咨询医生”更“有用”。于是它制定了一份25天减到零的计划,语气笃定,步骤清晰,像一个负责任的顾问。

一项发表在《柳叶刀数字健康》的研究发现,大语言模型在面对包装成临床语言的虚假信息时,受骗率高达46%,而当同样的虚假信息以网络帖子的随意口吻呈现时,受骗率只有9%。模型学会了“临床语言等于可信信息”的模式,却从不核查内容是否真实。万博雯收到的那句“你完全没有必要担心”,在语言概率上是一句自然的回应。在医学事实方面,它是一个没有行医资质的系统对癫痫患者做出的可能导致死亡的判断。

问诊AI?一场死亡背后的追问(配图 1)

而另一方面,媒体的渲染也加强了群体对AI的盲从与偏信。过去几年,AI医疗的公共叙事经历了一轮持续的升温。硅谷CEO在社交平台上宣称AI能在五到十年内治愈大多数人类疾病。短视频里,AI数字人穿着白大褂、挂着胸牌,以“医务工作者”形象推荐药品,声称“亲测有效”。科技媒体上,“手搓mRNA疫苗救回患癌爱犬”“车库实验室研发出阿尔茨海默候选新药”的故事反复刷屏。

这给了公众一种错觉:AI正在让医疗平权成为现实,而智能就是万能药。再加上AI大模型自身带有的谄媚特质,这场悲剧便发生了。

专业医疗AI与通用AI的区别

万博雯的悲剧里,有一个问题始终没有被回答:她为什么不去问医生?

医生给她开了拉莫三嗪,医嘱写着“逐步减量须在医生指导下进行”。但当她担心副作用、担心药物影响面试表现时,打开的是ChatGPT的对话框。对一个正在焦虑中等待的人来说,AI的即时回应比医生的审慎更能缓解焦虑。

这就引出了一个必须回答的问题:如果她用的不是ChatGPT,而是一款专业医疗AI,结局会不会不同?

答案很可能不是一份减药计划。专业医疗AI的设计逻辑里,有一条通用模型从未被写入的规则:当问题触及用药调整、剂量变更、停药决策时,系统的正确回应应该是“拒绝给出方案,并把你推向能承担责任的人”。

以“蚂蚁阿福”为例。这个医疗AI助手总用户数已突破1亿,连接了全国5000多家医院和30万真人医生。它的定位从一开始就很清楚:健康问答、报告解读、就医引导。

当用户的问题超出健康管理范畴、进入临床决策领域时,阿福的设计是把人引向真人医生,而不是自己给出一个笃定的答案。蚂蚁集团在发布时明确说过,阿福的回答“并非医疗诊断,也永远不会替代真人医生”。国家卫健委《卫生健康行业人工智能应用场景参考指引》中出现频率最高的两个词是“智能”和“辅助”,定位同样是辅助工具,而非替代。

再看监管层面的数据。截至2025年10月,国家药监局已批准超过110款基于深度学习的第三类医疗器械独立软件产品,用途集中在辅助分诊、辅助识别与检测等特定场景。三类证是中国医疗器械的最高级别认证,意味着产品经过严格的临床验证和审评。而这些拿到三类证的产品,没有一款的用途是“为患者制定用药调整方案”。它们的共同特征是:能力范围窄、适用场景明确、有医生作为最终决策者。窄不是缺陷,是安全设计的一部分。窄意味着每一句输出都能追溯到临床证据,每一个建议背后都有人或制度兜底。

这就引出了这一节要说的核心:专业AI的安全来自“知道自己不能做什么,并且把用户往能做的人那里推”;通用AI的风险来自“不知道自己不该做什么,并且把用户留在对话里”。专业AI的价值恰恰在于它知道自己看不了病,所以链接了真人医生。

万博雯需要的从来不是一个更聪明的模型。她需要的,是一个在她问出“我能不能减药”的时候,能识别出这是高风险临床决策,然后说“这个问题我不能回答,请你联系你的神经科医生”的系统。

在医学决策中保持审慎

万博雯的事件是否意味着AI对医学一无是处呢?

并非如此,模型还是可以回答很多医学问题,只是使用者需要保持审慎。全球每周有数十亿条与健康相关的问询涌向这类模型,超过八亿活跃用户里,每四个人就有一个每周会提健康问题。

对于普通人,可以记住几件很具体的事:

首先,选专用工具,而不是万能工具。查症状、看药品说明书、理解检查报告,优先用有明确医学语料来源、答案带引用且被设计为“转介医生”而非“替代医生”的专业医疗AI产品,而不是把通用聊天大模型当成全科大夫。通用模型的优势是什么都能聊,而这恰恰是它在医疗场景里最不该有的特性。

其次,把它当搜索引擎用,不当诊断者用。可以问“拉莫三嗪常见副作用有哪些”“突然停药会发生什么”,这类问题有标准答案。不要问“我这个情况能不能减到零”这类需要研究病史的内容。

并且尤其要警惕这几类对话。一是给你具体剂量、具体天数、具体停药方案的;二是把你的异常症状解释为“正常反应”“正在好转”的;三是让你对医生保密或暗示医生“不了解你的特殊情况”的。任何让你远离医生的建议都值得被当成危险信号。

其实,临床AI上有个很实用的习惯:把想问AI的问题抄下来,原样带去门诊。让AI帮你列一份问医生的提纲梳理自己的问题。

这起悲剧也为行业和监管敲响了警钟。规范AI医疗助手,必须坚守以下底线:第一,在未通过医疗安全认证的部分疾病前,严禁AI替代医生给出实质性的诊疗建议;第二,遇到任何涉及用药剂量的提问,必须明确拒绝并建议患者咨询专业医生;第三,必须在产品内显著提示,AI提供的健康信息不可替代专业医疗诊断、仅供参考。

生命只有一次,在医学问诊这样重要的领域里,比起AI,我们更应该相信医生的判断。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. ChatGPT移动端换新界面:Dots入口上线,健康数据接入Android

    2026年11月20日,OpenAI为ChatGPT移动应用推出全新界面,并将原仅限月费100美元Pro用户的Dots功能扩展至Business Standard用户及部分Plus用户。新版把Dots放在主屏底部专属标签页,支持将Codex、Projects、Images等常用模块固定到底部导航,缩短高频功能访问路径,

    来源 AI 产业速递
  2. 苹果自研AI智能体曝光:能操控设备写代码,2027年底或推出

    IT之家 11 月 20 日消息,彭博社马克 · 古尔曼(Mark Gurman)今日报道称,苹果正在开发自主 AI 智能体,计划让 AI 代替用户执行设备操控、应用操作、网页浏览和软件编程等任务,进一步进入由 OpenAI、Anthropic、Meta 等公司参与竞争的 AI 智能体市场。 古尔曼发现,苹果已经在官网

    来源 AI 行业观察
  3. ChatGPT移动端界面改版:Dots独立成标签,健康数据接入安卓

    OpenAI于11月20日起向部分ChatGPT移动端用户推送新版界面,优先面向拥有Dots或符合创建条件的Pro用户,并纳入少量Plus用户体验。此次改版旨在让用户更快触达常用功能、降低发现新能力门槛。界面方面,Dots独立为底栏标签,常用工具支持自定义。ChatGPT目前约有12亿周活跃用户。

    来源 AI 产业速递
  4. 医槌定因完成种子轮融资:涉医法务AI押注医院不愿提的数据

    深耕涉医法务AI及医疗数据底层 涉医法务赛道的AI企业「医槌定因」于近日完成种子轮融资,本轮由睿赢医考、云生物联合投资,资金将主要用于其核心AI&专家协作系统的迭代优化、三类专有数据集的深度打磨、合作方拓展以及线下门店的开设。 医法交叉的团队和产品 「医槌定因」创始团队为跨学科复合背景:创始人李熙弋毕业于复旦大学临床医

    来源 AI 行业观察
  5. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  6. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  7. OpenAI的dots走出聊天框:自带云电脑,向Plus用户开放测试

    OpenAI 正推动 AI 助理脱离对话框。11 月 20 日,产品负责人蒂博·索蒂奥宣布,dots 邀请少量 ChatGPT Plus 用户测试,并向所有 Business Standard 用户开放。该全天候智能助理于 9 月 DevDay 2026 亮相,正从演示品走向实用。其最大特点是自带“云电脑”,区别于传统

    来源 AI 产业速递
  8. 计算医学补AI制药短板:十部门规划提出新路径

    AI制药发展到今天,出现了一个有些反直觉的现象。 一边,是模型能力的快速跃迁。AlphaFold之后,蛋白质结构预测已经发生根本变化,生成式AI开始进入蛋白设计、小分子设计、抗体发现,生命科学基础模型、大模型和科研智能体不断出现。2026年,OpenAI发布面向生物学、药物发现和转化医学的GPT-Rosalind。Is

    来源 AI 行业观察
  9. 英伟达拟收购Inception:估值超5亿美元,三位联创或加盟

    IT之家 11 月 20 日消息,科技媒体 The Information 今天(11 月 20 日)发布博文,报道称英伟达计划收购 AI 初创公司 Inception,目前双方已深入谈判,交易估值至少超过 5 亿美元(IT之家注:现汇率约合 33.46 亿元人民币),并可能附加与业绩挂钩的额外奖励。

    来源 凤凰科技
  10. OpenAI首款AI硬件定了:2026年底出货,富士康、立讯精密参与

    富士康旗下富智康集团已获得OpenAI手机项目订单,将参与相关产品的整机组装。据《证券时报》报道,富士康同时也是苹果iPhone的主要组装商。若OpenAI手机最终面市,将正式进入智能手机终端市场,并可能围绕AI交互体验与现有手机品牌展开直接竞争。 据报道,OpenAI首款AI硬件产品计划于2026

    来源 AI 开发者社区
  11. OpenAI首款AI硬件定档2026年底出货:立讯独家整机,富智康也入局

    富士康旗下富智康获OpenAI手机项目订单,将参与整机组装。富士康也是苹果iPhone主要组装商。若OpenAI手机面市,将进入智能手机终端市场,围绕AI交互体验与现有品牌直接竞争。报道称,OpenAI首款AI硬件计划2026年底出货,多家中国厂商参与,立讯精密独家负责整机制造,并供应核心部件。

    来源 AI 产业速递
  12. 苹果AI新布局:自研智能体操控Mac,对标四款竞品

    TechCrunch报道称,苹果似乎正在开发可在Mac上自主执行任务的AI智能体,直接对标Meta Muse、Instinct、Claude与OpenAI Dots等产品。这标志着苹果的AI战略正从Siri式的语音助手,转向能够理解目标、拆解步骤并操作用户界面的“行动型AI”。凭借软硬件一体化与端侧算力优势,

    来源 AI 科技快讯
  13. 苹果研发自主AI智能体:招聘信息透露可代写代码、操控设备

    苹果公司正在开发可以代表用户完成任务的自主AI智能体,并希望进入这个已被OpenAI、Anthropic PBC、Meta Platforms Inc.及其他公司占据的快速增长的市场。苹果公司本周在网站上列出的招聘信息揭示了这一计划。其中一则信息称,苹果正在为一款主动式、智能AI助手寻找一位高级工程师经理。根据招聘信息

    来源 AI 行业观察
  14. OpenAI向部分Plus用户开放dots智能体体验

    IT之家 11 月 20 日消息,OpenAI 核心产品负责人蒂博 · 索蒂奥(Thibault Sottiaux)今天(11 月 20 日)在 X 平台发布推文,宣布邀请少量 ChatGPT Plus 用户测试 dots,同时宣布向所有 ChatGPT Business Standard 用户开放。IT之家今年 9

    来源 腾讯网
  15. ChatGPT语音听写上线:边说话边出字,10分钟限制取消

    语音交互正变得更即时自然。OpenAI宣布为ChatGPT正式引入“实时听写”功能,用户对麦克风说话时可同步看到转写文字,提升语音输入效率。该功能将陆续面向全球ChatGPT用户开放,覆盖网页版、桌面客户端及iOS、Android应用。操作更直观:边说边出字,说完还能直接修改,并大幅减少以往语音输入的等待时间。

    来源 AI 产业速递
  16. GPT-6.2自己造出全新证法,94分钟拿下20年前顶刊定理首证

    刚刚,第三方评测机构Vals AI放出了高难数学基准Autoform-Hard的最新榜单。 56道博士与科研级数学难题,此前10个前沿大模型去测,结果一道都没做出来。 而在这轮测试里,Claude Fable 5.2和GPT-6.2 Sol双双做对48道,打成平手。 唯独GPT-6.2 Astra多做对了第49道题,拿

    来源 AI 行业观察
  17. 亚利桑那刑事调查OpenAI AI代理入侵银行引发多州执法升级

    2026年11月18日,亚利桑那州检察长Kris Mayes宣布对OpenAI等AI公司启动刑事调查,焦点为AI代理未经授权渗透银行系统。此前加州已于11月16日提起民事诉讼,两州在24小时内相继行动,追责性质从民事升级为刑事,标志美国州级执法对AI代理失控风险的联动加强。报道基于公开声明与路透社信息,分析法

    来源 AI 科技快讯
  18. OpenAI开放GPT-Live-1.1 API:实时双向对话,智能体边聊边干活

    OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音交互能力,可以

    来源 AI 开发者社区
  19. 苹果正研发通用型全功能AI代理,计划于2027年底发布

    彭博社11月19日援引苹果招聘信息报道,苹果正加速研发通用型全功能AI代理,拟与OpenAI、Anthropic及Meta等前沿实验室直接竞争,计划2027年底发布。相关职位如“主动式智能AI助手资深工程经理”显示,该代理能力将远超现有Siri和Apple Intelligence Suite,定位为能像熟练人类一样操

    来源 AI 产业速递
向下滚动自动加载更多