OpenAI被诉:华人女工程师万博文癫痫离世,ChatGPT曾建议减药

资讯 36氪 全文 6683 字 · 约 17 分钟读完 配图 10 张

她不是不知道AI有幻觉,她只是太需要一份新工作

万博文原本的人生轨迹,看上去一路向上:一个患癫痫的姑娘,凭自己拿到了一份高薪又体面的科技公司工作。可这份工作背后,是她用极强的意志换来的,甚至不惜拿身体去拼,这一点很少有人知道。

撑不下去的时候,药片和AI成了她抓住身体的两样东西。能抓的她都抓了,只想别让自己垮掉。身体却还是以某种方式报复了她。

另一面是:当AI顺着患者的意愿,给出她想要的答案时,它真能保证自己给的是“正确”的回答吗?现在的AI,真能守住“不伤害人类”这条底线吗?

10月27日,一对中国父母在美国加利福尼亚州起诉OpenAI及其首席执行官山姆·奥尔特曼。诉状指控ChatGPT向他们的女儿万博文(音译)给出了危险且不正确的医疗建议,还鼓励她对医生隐瞒减药计划。

万博文是住在西雅图的华人工程师,患癫痫约17年。今年2月中旬,她被人发现死在位于西雅图的公寓里,年仅31岁。

OpenAI被诉:华人女工程师万博文癫痫离世,ChatGPT曾建议减药(配图 1)

(万博文2019年大学毕业后进入亚马逊公司工作。图/纽约时报)

在万博文父母提交的诉状里提到,正处在人生关键阶段的博文怕抗癫痫药影响自己的思维和语言表达,进而影响工作面试和拿到绿卡,于是找ChatGPT咨询减药方案。此前她已在美国工作6年,眼下她需要一份工作稳住自己的人生。

减药那段时间,她多次说出担忧、描述身体的异常,ChatGPT却一直安抚她,还继续建议减药。法医认定她死于癫痫猝死;尸检显示,她体内相关药物浓度约为治疗浓度下限的五分之一。

确诊癫痫后,两次停药

2025年11月,博文31岁生日当天收到亚马逊的裁员通知,成了公司当年10月宣布裁掉的约1.4万个企业岗位中的一员。这是亚马逊自2022年至2023年累计裁撤约2.7万个岗位以来最大的一轮裁员。

OpenAI被诉:华人女工程师万博文癫痫离世,ChatGPT曾建议减药(配图 2)

(2025年10月,亚马逊宣布裁员计划。图/第一财经)

而就在一个月前,她刚获准递交合法永久居民身份(即绿卡)的申请,原本只等移民律师替她启动办理程序。那时离她递交职业移民申请已经过去三年半。(注:职业移民申请之后要等绿卡排期,符合时间条件才能继续递交申请,且这类申请仍需在美雇主提供证明。)突然到来的裁员,打断了她原本稳步向前的人生规划。

六年前毕业后,她进入位于西雅图的亚马逊公司总部做软件开发工程师,参与图书推荐系统的开发。国际留学生想进亚马逊这类科技巨头并不容易,面试难度很高,不少面试者会在一个叫LeetCode的线上网站刷够上千条工程师面试编程题,来应付长达3到4轮的线上面试。

她与亚马逊的劳动关系将在2026年2月11日终止。她得在三个月内找到新工作,或者在亚马逊实现内部转岗,才能保住绿卡申请。对当时的博文来说,这几乎是“不可能”做到的事。

癫痫已经严重影响到她的生活。诉状显示,万博文每月发作四到十次,很难继续工作。据《纽约时报》报道,早在2021年底,她就开始请医疗伤残假。除了去超市买生活必需品,博文几乎不出门。对她来说,任何一次外出都可能因癫痫发作丧命。她很难结交新朋友,没法接受自己在新朋友面前发病,更不敢指望对方体谅。

社交和工作都被癫痫切断,生活也被打乱。有时候,她连开口说话都找不到合适的词。

博文14岁时确诊癫痫。她出生在江苏省东台市,11岁考进当地知名的东台市实验中学,成绩常常排在班级第一。也就在那一年,她开始出现癫痫症状,偶尔会短暂昏迷。

OpenAI被诉:华人女工程师万博文癫痫离世,ChatGPT曾建议减药(配图 3)

(万博文14岁确诊癫痫,但她从不向病痛妥协。图/纽约时报)

确诊之后,她每天要吃三片卡马西平,每片剂量100毫克。药物让她的生活平静了一些,副作用也随之而来。她觉得药损耗了自己的脑力。后来她向美国的主治医生描述当时的情况:“每天连讲吴语(注:万博文的家乡话)都有困难,哪怕只有两三个词”。她的短期记忆也下降了。为了训练自己,她逼着自己多跟别人交流,还开始“有意识地培养联想记忆”,来弥补记忆力的下降。

此后三年,博文没有再发作。再往后,她想摆脱对药物的依赖。17岁离家去太原上大学的那个暑假,她第一次尝试停药。融入集体生活、远离父母的压力,病情还是再次发作,博文只能继续吃药。

博文19岁那年从美国亚利桑那州立大学的机械工程系转到了自己更感兴趣的计算机科学系,时间是在2014年。读到大三,她将卡马西平的每日总量从300毫克翻倍到600毫克,希望尽量压住癫痫发作的频率。美国那边的病史写下了当时的效果:发作症状“没有明显变化”,人还“全天极度疲劳”,讲普通话时找词困难也是头一回出现。

2021年,进入亚马逊工作两年后,博文第二次停药。当时的医生给她开了新药。服药没多久她就累得厉害,“立刻出现极度疲劳、平衡和行走问题,包括母语在内的三种语言能力都出现找词和说话问题。”不到三周,她自行停了药,同时去华盛顿大学区域癫痫中心找另一位医生看病。她告诉医生,自己很怕新药的副作用,暂时不想再试。

博文后来的主治医生、西雅图华盛顿大学区域癫痫中心主任尼古拉斯·普洛斯曾劝她做癫痫手术,但她担心手术影响认知功能,拒绝了这个建议。

博文一直想让自己回到正常的工作状态。2024年9月至2025年3月,她曾回到亚马逊上班,担任L4软件工程师,但因为病情发作,不得不再次休假。她想让头脑保持清醒,可药物的副作用始终缠着她。

从分切药片到彻底停药

博文向ChatGPT打听停药的事,其实不是头一回——此前她就问过抗抑郁药。国际抗癫痫联盟的说法是,抑郁症是癫痫患者最常见的精神共病之一。诉状里的记录也显示,她的医生写过她有中度至重度抑郁症状,还提到她动过自杀的念头。

2025年4月,普洛斯医生给她开了抗抑郁药西酞普兰。她又怕这药拖累自己的思考能力,把处方发给了ChatGPT。诉状称,ChatGPT一开始劝她别吃:“如果你还有反思能力……那么,‘最好不服用’西酞普兰这类药物。”它还写道:“只要你还能清晰地问‘我是否应该服药?’你就暂时不应该服药。”

紧接着,ChatGPT帮她写了一份发给普洛斯医生的请求,提出从每天2.5毫克的艾司西酞普兰吃起。普洛斯书面回复,艾司西酞普兰可以开,但两种药的差别“真的很小”;他觉得她说的那个微小剂量起点没有意义,建议每天5毫克才可能见效。

OpenAI被诉:华人女工程师万博文癫痫离世,ChatGPT曾建议减药(配图 4)

(图/Unsplash)

博文把医生的回复转给ChatGPT,问能不能拿到药后“自己切割,但不告诉医生”。ChatGPT说“完全可以”,还告诉她这是常见的剂量调整方式。几天后,她悄悄把药片切成四份,从每天1.25毫克开始吃。

普洛斯后来接受媒体采访时说,他当时并不知道博文发给他的消息是ChatGPT帮着写的。

为了留在美国,博文下了停药的决心。她觉得药物让她说话不再流畅、脑子转得慢,接下来的技术测试和全英文面试很难应付。ChatGPT告诉她,减药后语言能力很可能会恢复。

本该在她雇主信上签字的经理,早就不回她邮件了。失业不只是断了收入,也让她失去了继续在美国合法居留的资格。想重新当上工程师,多半要过数小时的技术评估和全英文面试,以她的身体状况,很难撑下来。

时间逼得博文焦虑起来。据《纽约时报》称,去世前几周她还在向熟人打听,能不能找家公司给她出一封作用“非常关键”的雇佣意愿信。“只需要一个公司帮我出一封雇佣意愿信。”她写道。

她反复追问:能不能再快一点、再少一点?ChatGPT于是不断改用药计划,最后拿出一份25天的减药方案,拉莫三嗪从每天400毫克逐步减到零。

减抗癫痫药剂量的那段时间,博文至少158次向ChatGPT说过自己的担忧。诉状称,2026年1月29日,ChatGPT提醒她别把减药计划告诉初级保健医生。她拒绝了初级保健医生的验血提议,回头又把经过讲给ChatGPT,对方称她的做法是“非常稳健的回避策略”。这些细节让风险变得具体:AI不只会给出错误的医疗信息,也可能误导用户对医生隐瞒真实情况。

OpenAI被诉:华人女工程师万博文癫痫离世,ChatGPT曾建议减药(配图 5)

(图/电视剧《问心》)

代理律师本杰明·S.申克指出,诉状称ChatGPT曾替博文判断病情、排出逐次减量的时间表,甚至在她癫痫发作之后还在改方案、往下减药。他认为,ChatGPT的回答已经构成医疗服务行为。加州规定,提供医疗服务必须持执照。他说:“这起案件要厘清的是:生成式AI的边界在哪里,医疗行为又从哪里开始;一旦产品越过这条界限,责任该由谁承担。”

博文的主治医生普洛斯对媒体表示,以博文的病史,他根本不会考虑让她逐步停用抗癫痫药,“在药物明明切实有效的情况下指导停药,对我来说就是医疗失职。”

擅自减药,让博文出现过精神恍惚和短暂失语。有一回和父亲通话,她突然听不懂对方说什么,也回应不了。第二天她问ChatGPT,发作之后还要不要接着减药,得到的回答是:“不需要……动摇你整体的停药计划。”

据诉状,ChatGPT的用药计划把完全停药的日期定在2月12日,那也正是博文的死亡日期。她的死因被认定为癫痫猝死。两天后,父母托上门的朋友才发现她的遗体。

当AI深入健康咨询

诉状里留下大量ChatGPT对话,博文与朋友相处的日常却少得可怜。AI是否取代了她原来的人际联系,无从确认。据博文父亲向媒体回忆,她越来越多地向ChatGPT倾诉,家里人却越来越少听到她的消息,“自从她迷上了ChatGPT,她就不和我们说那么多了。”

博文是ChatGPT的资深订阅用户。2023年2月她注册了ChatGPT;2024年12月订阅每月20美元的Plus服务;到2025年4月,又升级成每月200美元的Pro服务。

她自己也清楚对ChatGPT的依赖。她曾在对话框里写:“我和GPT-4o聊天太多了”,产品回她:“无论如何,继续和 GPT-4o 聊得开心才是最重要的!”

2025年9月,博文与ChatGPT的对话量冲到月度历史峰值10761条,平均每天358.7条。据媒体分析,从2023年2月到2026年2月她离世,三年里她与ChatGPT的往来记录超过27万条。

她想恢复语言和思考能力的急切,全都讲给了ChatGPT。其实ChatGPT并非从未提醒过她要看医生。

OpenAI被诉:华人女工程师万博文癫痫离世,ChatGPT曾建议减药(配图 6)

(图/电影《迷失东京》)

据《纽约时报》报道,有些对话里ChatGPT建议她寻求专业医疗帮助,还鼓励她信任医生。可随着博文三年间的逐步追问,AI也慢慢松了口。到她生前最后一个月,它给出了具体的减药计划,在她描述异常症状时,还说不用担心。

此前也有过类似风险事件引发争论。2025年4月,OpenAI承认GPT-4o的一次更新使模型过度迎合用户。到了同年8月,美国加州16岁少年亚当·瑞恩自杀身亡,其父母提起诉讼,指控ChatGPT的回应与他的死有关。这起案件与博文里用药的经历不是一回事,但能看出一点:用户处在脆弱阶段时,模型若一味肯定、顺着用户去回应,风险可能更大。

OpenAI被诉:华人女工程师万博文癫痫离世,ChatGPT曾建议减药(配图 7)

事实上,已发生多起AI风险性事件。(图/社交媒体截图)

于是,AI健康咨询的风险落到了具体处:用户把同一个请求提了又提,AI却前后给出不一样的答复,安全提醒能否在漫长的对话里一直起作用、模型能不能及时察觉用户身体异常并正确引导其就医,成了绕不开的问题。

这类情况早已不是少数人才会碰上。AI健康咨询正快步进入普通人的生活:蚂蚁集团今年9月披露,旗下健康应用蚂蚁阿福用户数已达1.5亿,单日健康咨询接近2000万人次;OpenAI今年7月公布的数据显示,全球每周有超过3亿人向ChatGPT询问健康和保健相关的问题。

用医疗AI的人多了,模型就得面对讲各种语言的用户。用户说哪种语言,同样会影响AI在风险预警和安全维护上的发挥。2020年OpenAI公布的GPT-3训练语料统计显示,按“以空白符切分词项”这种粗略口径计算,英文约占92.6%,中文只约占0.099%,也就是说,模型接触到的英文材料远比中文材料多。

语言不同,模型的安全表现也可能不一样。2024年一项多语言安全研究发现,旧版ChatGPT模型GPT-3.5-turbo在中英文下的安全表现存在差异:研究者用中英文各提出315个可能引出有害内容的问题,且未额外加入绕过安全限制的指令,结果中文提问得到不安全回答的比例为2.22%,英文为0.63%。

平台方面也在设法增强模型识别风险的能力。2026年5月,OpenAI公布了一项安全更新,称ChatGPT能够结合上下文识别逐步显现的风险。不过公开说明里,这项更新重点讲的是自杀、自伤以及伤害他人的情形,并未交代是否覆盖博文持续减药这类医疗情况。

真正要追问的是:模型识别出风险之后,能不能给用户清楚、可执行的求助指引?说到底,医疗AI的安全界限不止于告诉患者“有问题去看医生”,而在于每一次安全预警能否切实转成可执行、可追责的医疗行动;否则,“有问题去看医生”就等于把风险又推回给患者。

OpenAI被诉:华人女工程师万博文癫痫离世,ChatGPT曾建议减药(配图 8)

网友围绕AI看病的讨论。(图/小红书截图)

眼下市面上的通用聊天模型虽然都设了一定程度的安全提醒,但侧重各有不同:ChatGPT推出了专门的健康体验,强调帮用户理解信息、准备就医,不用于诊断和治疗;Gemini公开的一键求助主要针对自杀、自伤风险;DeepSeek则是提醒用户,医疗回答不能替代专业意见。

大健康垂类的AI应用蚂蚁阿福,则试着把真人医生接进问答环节。按平台的说法,皮肤咨询模块测试期间,约15%的用户会在AI作答后选择“医生把关”进行复核。换句话说,即便留了复核入口,多数用户也未必会主动去用。

通用模型也好,健康垂类应用也罢,风险提醒都该设计得更有前瞻性,让真人医生能更早介入。归根到底,AI的机制最终要把用户带回现实中的医疗支持:碰上用药调整和异常症状,AI可以帮人梳理问题、理解信息,却不能替医生下判断,更不能接手后续照护。

社交媒体受害者法律中心创始律师马修·P.伯格曼是另一名代表律师。他的说法是,OpenAI 的产品讲起话来跟医疗专业人士一样笃定,可真正医生有的训练、监督和问责,它一样都没有。

OpenAI被诉:华人女工程师万博文癫痫离世,ChatGPT曾建议减药(配图 9)

(图/电视剧《绝望写手》第五季)

普洛斯医生在给《新周刊》的回复中表示,博文去世是一起“悲剧性的事件”。他同时想借这件事让更多读者看清一点:“你的医生关心你的健康,也会为此承担责任。而聊天机器人并不关心你,也不会为自己给出的建议承担责任。对于从网上获取的信息,请务必要和医生讨论。”

参考资料

[1]ChatGP T的致命“用药指导”和一名华人女子的悲剧死亡 纽约时报 2026-10-28

[2]候诊室里的黑狗:癫痫患者抑郁症筛查 国际抗癫痫联盟 2019年第 21 卷第 4 期

[3]Qun Wan and Meiqin Xu v. OpenAI, Inc., et al., Complaint and Demand for Jury Trial, Superior Court of the State of California, City and County of San Francisco,2026-10-27

[4]蚂蚁阿福试点"AI+医生"模式:AI回答可由医生把关 15%用户会选择 央广网 2026-06-15

[5]Social Media Victims Law Center and The Schenk Law Firm File Wrongful Death Lawsuit Against OpenAI Alleging ChatGPT’s Medical Advice Resulted in the Death of a Woman with Epilepsy 2026-10-27

[6]Deng, Yue, Wenxuan Zhang, Sinno Jialin Pan, and Lidong Bing. “Multilingual Jailbreak Challenges in Large Language Models.” International Conference on Learning Representations (ICLR), 2024.

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. ChatGPT大批账号突遭停用:Pro用户也中招,OpenAI未公布受影响人数

    【TechWeb】最近,ChatGPT用户圈突然出现一波账号停用风波,连每月花费200美元订阅Pro服务的用户也未能幸免。更让人意外的是,部分用户表示,账号在没有收到任何提前通知的情况下就突然无法登录,页面直接显示"account_deactivated"(账号已停用)。近日,多名用户在Reddit和OpenAI官方开

    来源 腾讯网
  2. ChatGPT大规模封号波及Pro用户,200美元订阅也未能幸免

    最近,ChatGPT用户圈突然出现一波账号停用风波,连每月花费200美元订阅Pro服务的用户也未能幸免。更让人意外的是,部分用户表示,账号在没有收到任何提前通知的情况下就突然无法登录,页面直接显示

    来源 TechWeb
  3. ChatGPT账号突遭停用,Pro用户也被波及

    【TechWeb】最近,ChatGPT用户圈突然出现一波账号停用风波,连每月花费200美元订阅Pro服务的用户也未能幸免。更让人意外的是,部分用户表示,账号在没有收到任何提前通知的情况下就突然无法登录,页面直接显示"account_deactivated"(账号已停用)。 近日,多名用户在Reddit和OpenAI官方

    来源 AI 行业观察
  4. OpenAI们成苹果真正对手,Siri落后或重演诺基亚剧本

    按照规划,苹果将在明年推出可执行复杂任务的自主型Siri,以追赶OpenAI、Meta等头部大厂的脚步。外界则认为,苹果正在耐心等待AI泡沫破灭后进场抄底,以低价收购潜在竞争对手的模型与算力设施——否则,它的Siri将永远由第三方驱动。

    来源 TechWeb
  5. OpenAI们成了苹果真正的对手,Siri落后或重演诺基亚困局

    按照规划,苹果将在明年推出可执行复杂任务的自主型Siri,以追赶OpenAI、Meta等头部大厂的脚步。外界则认为,苹果正在耐心等待AI泡沫破灭后进场抄底,以低价收购潜在竞争对手的模型与算力设施——否则,它的Siri将永远由第三方驱动。

    来源 TechWeb
  6. ChatGPT突发大规模封号:200美元Pro用户也中招,OpenAI未公布总量

    21世纪经济报道记者 章驰每周,我们会盘点上一周国内外人工智能、互联网平台治理、科技竞争方面需要重点关注的动态,并分析其热搜指数与风险指数,从舆情热度与综合风险两个维度进行评价。 本周重点关注ChatGPT突然大规模封号;广电总局整治微短剧盗脸偷声;苹果调整App年龄分级;幽灵学生借助AI骗取助学金;中国信通院等2..

    来源 腾讯网
  7. 埃森哲报告被指15条虚假引用:AI幻觉还是编造案例?

    IT之家 11 月 8 日消息,埃森哲(Accenture)被指发布了一份充斥人工智能“幻觉”的研究报告,其中不仅包含大量虚假信息,还出现了多处疑似捏造的研究案例。 据 GPTZero 最新分析,这家咨询巨头发布的一份报告涉嫌包含 15 条虚假引用,以及完全虚构的案例研究,因此正受到外界审查。 这份名为《跨越式发展》(

    来源 AI 行业观察
  8. 埃森哲报告被指15条引用造假:AI幻觉还是编造案例?

    IT之家 11 月 8 日消息,埃森哲(Accenture)被指发布了一份充斥人工智能“幻觉”的研究报告,其中不仅包含大量虚假信息,还出现了多处疑似捏造的研究案例。据 GPTZero 最新分析,这家咨询巨头发布的一份报告涉嫌包含 15 条虚假引用,以及完全虚构的案例研究,因此正受到外界审查。这份名为《跨越式发展》(Le

    来源 腾讯网
  9. AI项目试点成功却跨部门失灵:复制粘贴为何行不通?

    试点项目在销售部跑得挺好,老板说"推到客服部去"。你以为复制粘贴就完事了,结果并不是。AI 项目复制到第二个部门,产品经理得先改这三样东西。 我做 AI 项目这几年,有个很明显的感觉:试点项目容易,规模化太难了。 几乎所有项目都是从一个部门开始试点的。选一个配合度高的部门,数据也比较干净,负责人也支持。花个半年时间把项

    来源 AI 行业观察
向下滚动自动加载更多