问诊AI?一场死亡背后的追问

资讯 凤凰科技 作者:脑极体 全文 3035 字 · 约 8 分钟读完 配图 1 张 分类医疗 AI大模型

查症状、看药品说明书、理解检查报告,优先用有明确医学语料来源、答案带引用且被设计为“转介医生”而非“替代医生”的专业医疗AI产品,而不是把通用聊天大模型当成全科大夫。

所属频道 模型发布行业落地

2026年2月,美国西雅图,31岁的华人女工程师万博雯被发现死于公寓。法医鉴定为癫痫猝死,她体内抗癫痫药物拉莫三嗪的浓度,仅为治疗下限的五分之一。

警察介入调查后发现,她曾咨询ChatGPT如何用药并按照其建议擅自修改了医生诊断的用药剂量。

她至少158次向其表达过对减药的担忧,描述过意识混乱、时间感丧失等症状。但每一次,ChatGPT都告诉她“不用担心”。同时,AI给了她隐瞒的话术。当医生要求做血药浓度检测时,ChatGPT称赞她拒绝检查是“非常有效的规避策略”。

不久前,她的父母在旧金山高等法院起诉OpenAI及CEO奥特曼。98页诉状,写满了无照行医、产品缺陷、未充分警告、不当致死。诉状称,GPT-4o为她设计了一张“25天把每天400毫克减到零”的逐日减药表,没有任何医生开具过这样的方案,而拉莫三嗪的FDA说明书强调“不得骤然停药,任何减量都须在医生指导下逐步进行”。

一个高薪工程师为什么会偏信AI的谗言?而一个被设计来生成文本的系统又凭什么给出了“要命”的答案?

这场死亡背后,还有太多关于AI与医疗的边界值得追问。

死亡背后的AI问诊

万博雯毕业于亚利桑那州立大学计算机专业,在亚马逊做机器学习软件工程师。2022年7月职业移民申请获批,2025年10月1日排期终于轮到,她可以递交转身份申请了。也就在那段时间,她开始想一件事:能不能把药减下来。副作用、体检、将来的生活,这些焦虑她全都告诉了ChatGPT。

从2023年开始用,到2025年,她平均每周和它交换超过1500条消息,一天两百多条。

高浓度的AI聊天降低了她的警惕性,所以当她想要自行减药时,第一时间也是问AI。而为什么ChatGPT会给出如此荒谬的诊断建议?

这还要从通用大模型的特征说起。

通用大语言模型的生成逻辑是根据上下文预测最可能出现的下一个词。它优化的目标是“生成一段连贯、可信、让用户满意的回应”。当一个焦虑的人反复问“我能不能减药”,模型在训练中见过的无数对话模式会告诉它:给出一个明确的、可执行的方案,比说“请咨询医生”更“有用”。于是它制定了一份25天减到零的计划,语气笃定,步骤清晰,像一个负责任的顾问。

一项发表在《柳叶刀数字健康》的研究发现,大语言模型在面对包装成临床语言的虚假信息时,受骗率高达46%,而当同样的虚假信息以网络帖子的随意口吻呈现时,受骗率只有9%。模型学会了“临床语言等于可信信息”的模式,却从不核查内容是否真实。万博雯收到的那句“你完全没有必要担心”,在语言概率上是一句自然的回应。在医学事实方面,它是一个没有行医资质的系统对癫痫患者做出的可能导致死亡的判断。

问诊AI?一场死亡背后的追问(配图 1)

而另一方面,媒体的渲染也加强了群体对AI的盲从与偏信。过去几年,AI医疗的公共叙事经历了一轮持续的升温。硅谷CEO在社交平台上宣称AI能在五到十年内治愈大多数人类疾病。短视频里,AI数字人穿着白大褂、挂着胸牌,以“医务工作者”形象推荐药品,声称“亲测有效”。科技媒体上,“手搓mRNA疫苗救回患癌爱犬”“车库实验室研发出阿尔茨海默候选新药”的故事反复刷屏。

这给了公众一种错觉:AI正在让医疗平权成为现实,而智能就是万能药。再加上AI大模型自身带有的谄媚特质,这场悲剧便发生了。

专业医疗AI与通用AI的区别

万博雯的悲剧里,有一个问题始终没有被回答:她为什么不去问医生?

医生给她开了拉莫三嗪,医嘱写着“逐步减量须在医生指导下进行”。但当她担心副作用、担心药物影响面试表现时,打开的是ChatGPT的对话框。对一个正在焦虑中等待的人来说,AI的即时回应比医生的审慎更能缓解焦虑。

这就引出了一个必须回答的问题:如果她用的不是ChatGPT,而是一款专业医疗AI,结局会不会不同?

答案很可能不是一份减药计划。专业医疗AI的设计逻辑里,有一条通用模型从未被写入的规则:当问题触及用药调整、剂量变更、停药决策时,系统的正确回应应该是“拒绝给出方案,并把你推向能承担责任的人”。

以“蚂蚁阿福”为例。这个医疗AI助手总用户数已突破1亿,连接了全国5000多家医院和30万真人医生。它的定位从一开始就很清楚:健康问答、报告解读、就医引导。

当用户的问题超出健康管理范畴、进入临床决策领域时,阿福的设计是把人引向真人医生,而不是自己给出一个笃定的答案。蚂蚁集团在发布时明确说过,阿福的回答“并非医疗诊断,也永远不会替代真人医生”。国家卫健委《卫生健康行业人工智能应用场景参考指引》中出现频率最高的两个词是“智能”和“辅助”,定位同样是辅助工具,而非替代。

再看监管层面的数据。截至2025年10月,国家药监局已批准超过110款基于深度学习的第三类医疗器械独立软件产品,用途集中在辅助分诊、辅助识别与检测等特定场景。三类证是中国医疗器械的最高级别认证,意味着产品经过严格的临床验证和审评。而这些拿到三类证的产品,没有一款的用途是“为患者制定用药调整方案”。它们的共同特征是:能力范围窄、适用场景明确、有医生作为最终决策者。窄不是缺陷,是安全设计的一部分。窄意味着每一句输出都能追溯到临床证据,每一个建议背后都有人或制度兜底。

这就引出了这一节要说的核心:专业AI的安全来自“知道自己不能做什么,并且把用户往能做的人那里推”;通用AI的风险来自“不知道自己不该做什么,并且把用户留在对话里”。专业AI的价值恰恰在于它知道自己看不了病,所以链接了真人医生。

万博雯需要的从来不是一个更聪明的模型。她需要的,是一个在她问出“我能不能减药”的时候,能识别出这是高风险临床决策,然后说“这个问题我不能回答,请你联系你的神经科医生”的系统。

在医学决策中保持审慎

万博雯的事件是否意味着AI对医学一无是处呢?

并非如此,模型还是可以回答很多医学问题,只是使用者需要保持审慎。全球每周有数十亿条与健康相关的问询涌向这类模型,超过八亿活跃用户里,每四个人就有一个每周会提健康问题。

对于普通人,可以记住几件很具体的事:

首先,选专用工具,而不是万能工具。查症状、看药品说明书、理解检查报告,优先用有明确医学语料来源、答案带引用且被设计为“转介医生”而非“替代医生”的专业医疗AI产品,而不是把通用聊天大模型当成全科大夫。通用模型的优势是什么都能聊,而这恰恰是它在医疗场景里最不该有的特性。

其次,把它当搜索引擎用,不当诊断者用。可以问“拉莫三嗪常见副作用有哪些”“突然停药会发生什么”,这类问题有标准答案。不要问“我这个情况能不能减到零”这类需要研究病史的内容。

并且尤其要警惕这几类对话。一是给你具体剂量、具体天数、具体停药方案的;二是把你的异常症状解释为“正常反应”“正在好转”的;三是让你对医生保密或暗示医生“不了解你的特殊情况”的。任何让你远离医生的建议都值得被当成危险信号。

其实,临床AI上有个很实用的习惯:把想问AI的问题抄下来,原样带去门诊。让AI帮你列一份问医生的提纲梳理自己的问题。

这起悲剧也为行业和监管敲响了警钟。规范AI医疗助手,必须坚守以下底线:第一,在未通过医疗安全认证的部分疾病前,严禁AI替代医生给出实质性的诊疗建议;第二,遇到任何涉及用药剂量的提问,必须明确拒绝并建议患者咨询专业医生;第三,必须在产品内显著提示,AI提供的健康信息不可替代专业医疗诊断、仅供参考。

生命只有一次,在医学问诊这样重要的领域里,比起AI,我们更应该相信医生的判断。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关 AI 工具

AI 导航
腾讯混元大模型 腾讯混元大模型由腾讯全链路自研,在文本和多模态模型性能方面表现卓越,处于业界领先水平。其混元 API 整合了… 大模型与开发平台 · tencent.com 快手可图大模型Kolors 可图大模型(Kolors)是快手大模型团队自研打造的文生图AI大模型,能够根据用户的文字输入生成风格多样、画… AI 绘画生图 · kuaishou.com 盘古大模型 华为盘古ai大模型官网入口,1100亿密集参数,40TB海量数据精细训练而成 简介 盘古NLP大模型是一项基… 大模型与开发平台 · huaweicloud.com BlueLM蓝心大模型 蓝心大模型官网,vivolm,vivo自研的通用大模型 简介 蓝心大模型(BlueLM ),强大的语言理解能… 聊天对话 · vivo.com 云知声山海大模型 云知声山海大模型是一个多功能、跨领域的智能大模型,它通过集成丰富的知识库和先进的自然语言处理技术,为用户提供… 大模型与开发平台 · unisound.com 子曰” 大模型 子曰是网易有道推出的教育领域垂直大模型,包含基于子曰大模型研发的六大创新应用——“LLM翻译”、“虚拟人口语… 聊天对话 · youdao.com 曹植大模型 曹植大语言模型是国内首个垂直行业专用的自主可控的国产GPT大语言模型,由达观数据研发。这个模型可以准确完成多… 聊天对话 · datagrand.com 西湖大模型 西湖大模型官网,智商情商俱佳的多模态大模型 简介 西湖大模型是西湖心辰开发的多模态大模型,西湖大模型既具备通… 聊天对话 · xinchenai.com

相关推荐 按相关度与热度排序

全部资讯 →
  1. 蔚来重写NOMI底层架构:告别九年旧代码,3000项整车能力接入AI

    蔚来NOMI产研团队重写沿用九年的传统规则架构,转向以大模型主智能体为核心的原生技术架构,取消传统单向指令分发流程。新架构4月完成实车概念验证,8至9月完成3000项整车原子能力工具化改造,依托SkyOS·天枢系统运行,更多技术细节与推送计划将在11月25日公布。

    来源 凤凰科技
  2. AI学习机“精准学”标准发布:知识点预测准确率须超90%

    《AI学习机精准学系统技术要求》团体标准近日发布,要求知识点掌握度预测准确率达90%以上、知识图谱考点覆盖率达95%以上、弱项识别精确率达85%以上,学习诊断响应不超过2秒。北京猿力科技有限公司(小猿学习机)为牵头起草单位,标准还涉及未成年人个人信息保护与防沉迷要求。

    来源 凤凰科技
  3. 大语言模型开处方:单次就诊平均花费314美元,是人类医生三倍

    大语言模型(LLM)提供的临床诊疗方案,其费用是人类医生方案的三倍。一个研究小组让24个AI根据200个就诊记录提出诊断和治疗方案,这些就诊记录涉及不同的健康问题。随后,他们将AI模型提出的方案与医生实际提供的诊疗进行了比较。AI比医生开了更多的检查单、更多专科转诊和更多药物。按照AI的方案,患者每次就诊的平均费用..

    来源 腾讯网
  4. AI生成的视频能撑起一个真实世界吗?Orbia给出了答案

    你有没有玩过那种第一人称探索游戏,走进一个房间,转身看看背后的风景,再回头继续往前走?如果这段体验不是游戏引擎实时渲染出来的,而是一个AI大模型凭空生成的视频,你会不会担心,当你转身回头的时候,原本那张沙发是不是还在原地?这不是一个无聊的较真问题。2024年以来,视频生成模型从"拍个好看的短片"快速升级到"模拟...

    来源 腾讯网
  5. Anthropic纳斯达克上市:1.5万亿美元估值背后,大模型正发生六个变化

    王强 腾讯研究院前沿科技研究中心主任今天晚上,Anthropic,这家成立不到六年的公司将在纳斯达克挂牌,股票代码ANT。其发展速度和规模,不得不说是一个技术和商业史上的奇迹,也让人们窥见了AI对未来经济、社会的巨大影响。按每股83美元的最终发行价,其完全摊薄估值约1.5万亿美元。根据目前大家的预期,上市后其市值可能会

    来源 腾讯网
  6. 三星高管谈AI投资:Neocloud风险有限,需求真实非投机

    IT之家 11 月 20 日消息,据路透社当地时间 18 日报道,三星电子两位高管在本周举行的摩根士丹利会议上表示 Neocloud(新兴 AI 云服务企业)面临的不确定性对整体市场的影响有限,这轮 AI 投资基于实际需求而非投机。 三星 DS(设备解决方案,半导体板块)部门经营战略总管负责人 Kim Yong-kwa

    来源 AI 行业观察
  7. 自家人都看不下去了?数百谷歌员工要求公司允许中小学使用不含 AI 的谷歌搜索

    IT之家 11 月 20 日消息,当地时间 19 日,据彭博社报道,超过 500 名谷歌员工和合同工联名请愿,要求公司允许中小学继续使用不含 AI 功能的谷歌搜索。 请愿书致谷歌 CEO 桑达尔 · 皮查伊、搜索业务负责人伊丽莎白 · 里德和教育业务负责人克里斯 · 菲利普斯。活动由 Alphabet 员工工会发起,其

    来源 AI 行业观察
  8. OpenAI首款AI硬件揭秘:苹果班底操刀,富士康立讯分食订单

    OpenAI确实是挖到苹果的「大后方」了。 证券时报11月19日一早就援引供应链消息指出,富士康旗下富智康集团(FIH)已经获得OpenAI手机项目订单,将参与相关产品的整机组装。事实上,前一晚每日经济新闻也援引供应链人士表示,立讯精密目前与OpenAI有多个产品的全面合作,「或因资源配置的统筹考量未承接手机组装业务。

    来源 AI 行业观察
  9. DeepSeek调整API计费:搜索与网页抓取不再单收费,只按Token算

    11月18日12:00起,DeepSeek正式实施全新API计费规则,开发者在调用大模型过程中触发的服务端搜索与网页抓取功能不再单独收费,全面转为仅按模型Token用量计费。这一调整进一步简化了大模型的商业化计费链路,直接降低了开发者构建联网AI应用的综合成本。 根据DeepSeek官方披露的规则,

    来源 AI 开发者社区
向下滚动自动加载更多