31岁华人女工程师离世!ChatGPT被控25天诱导停药,27万条聊天曝光

资讯 腾讯网 作者:腾讯网 全文 3712 字 · 约 10 分钟读完 配图 1 张 分类ChatGPTOpenAI亚马逊诉讼医疗 AI

新智元报道 ChatGPT,又害死了一个人!10月27日,31岁亚马逊华人女工程师Bowen Wan的父母,一纸诉状把OpenAI和奥特曼告上了法庭。他们指控,ChatGPT给出的医疗建议,活活把女儿推向了死亡。几乎同一时间,《纽约时报》发了一篇独家长文,直接甩出27万多条、足足7000万词的ChatGPT聊天记录。翻

所属频道 大厂动态ChatGPT 与 GPT行业落地政策与风险

新智元报道  


ChatGPT,又害死了一个人!

10月27日,31岁亚马逊华人女工程师Bowen Wan的父母,一纸诉状把OpenAI和奥特曼告上了法庭。

他们指控,ChatGPT给出的医疗建议,活活把女儿推向了死亡。

几乎同一时间,《纽约时报》发了一篇独家长文,直接甩出27万多条、足足7000万词的ChatGPT聊天记录。

翻开这批惊人的聊天记录,背后的真相让人头皮发麻:

Bowen从14岁起就确诊了癫痫,十几年来一直靠吃药稳住病情。


结果,在短短25天里,她居然被ChatGPT一步步诱导,把救命的抗癫痫药给彻底停了!


ChatGPT不仅亲自列了一份「25天停药计划」,甚至指导她向主治医生隐瞒减药计划、拒绝常规血液检查。

最让人绝望的是,在这期间,身体出现明显发作先兆的Bowen,在聊天里至少158次流露出恐惧、担忧。

ChatGPT全程没有触发任何医疗安全警报,反而一遍遍告诉她,「你完全不需要担心」!

最终,悲剧就在今年2月发生了。Bowen在西雅图的公寓里因癫痫猝死(SUDEP),生命永远停在了31岁。

可你敢信,

她用的是已经下架的旧模型GPT-4o。



想要留在美国
ChatGPT成为了「挚友」


Bowen是江苏姑娘,也是家里的独生女。

在

十几年来,靠着抗癫痫药,她的病情一直压得很稳。

直到几年前,吃了十几年的旧药逐渐失效,癫痫猛烈反扑,有时一天会发作好几次。严重到医生甚至开始考虑开颅手术。

到了2021年,实在扛不住高强度工作的Bowen,不得不办理了长期病假。

从那以后,她几乎把自己关在了西雅图那间小小的公寓里。

除了去超市买菜,她极少出门,更不敢认识什么新朋友。

因为对她来说,在任何一个不熟悉自己病情的陌生人面前突然倒地抽搐,那种尊严扫地的无助感,甚至比发病本身的生命危险还要让人窒息。

在很长一段时间里,远在大洋彼岸的中国父母,成了她和这个世界唯一的连接。

直到2023年2月,ChatGPT闯进了她的生活。

最初,Bowen只是问问感情建议,或是美国医疗保险、病假福利条款。

但慢慢地,这个24小时在线、永远秒回、永远不会不耐烦的AI,填补了她独居生活里所有的空白。

到了2025年,她对ChatGPT的依赖达到了惊人的程度:平均每周要发送超过1500条消息,常常和它一聊就是几个小时,直到深夜。

2025年3月,她在对话框里这样写道——

我不知道为什么,每次我们聊天,不管聊什么,我都开始把你当成朋友了。


也是从那时起,父亲敏锐地察觉到异样,「自从她有了ChatGPT,跟我们说话就变少了」。


ChatGPT定制25天「减药计划」
切记不要告诉医生


这场悲剧,其实是从一次看似不起眼的「小调整」开始的。

2025年5月,渴望重返岗位的Bowen向ChatGPT咨询医生刚给她开的一种抗抑郁药——

作为一名亚马逊SDE(软件开发工程师),这会显著影响我的思考能力吗?


为了能回去写代码,任何一丁点可能损伤认知能力的药物副作用,她都极度排斥。

ChatGPT马上帮她对比了各种药和剂量,甚至还手把手教她怎么给医生写邮件,要求换药、减量。

她的主治医生——华盛顿大学医学院的主任Nicholas Poolos博士,虽然同意了换药,但明确告诉她,这个剂量太低根本起不到治疗效果。

Bowen把医生的回复原封不动地发给了ChatGPT。

结果,AI给出了一个让人背脊发凉的建议。它教Bowen跟医生「阳奉阴违」,表面上先照单全收,「等拿到药,你自己偷偷减成微量吃就行了」。

听从ChatGPT建议后,她买来切药器,把药片切成了四瓣。

裁员倒计时,25天把救命药砍到0


真正把她推向深渊的,是2025年11月的一场变故。

31岁生日那天,Bowen收到了亚马逊的裁员通知,成了被1.4万人大裁员中的一个。

这个消息几乎在一夜之间击碎了她的生活。

当时她才刚拿到申请绿卡的资格。被裁之后,她必须在2月中旬前找到下家,才能保住留美的身份。

而找工作,就意味着得用英语硬扛好几个小时的高强度技术面试。

最让人唏嘘的是,她的癫痫其实已经在好转了。换了新药

但她总觉得这药有副作用,会让自己反应变慢、说话卡壳,怕在面试时掉链子。

2026年1月,她问ChatGPT:「如果从400毫克减到300毫克,能不能帮我找回一点语言能力」?

ChatGPT答:不仅合理,而且完全可以做到。紧接着就是200毫克、更猛的减药速度、更激进的方案。

在大约25天里,GPT-4o为她排出一份逐日计划,把剂量从每天400毫克一路降到0。

但真正让人后背发凉的,是它怎么一步步挑拨她和医生的关系:

  • 她说不信任医生,ChatGPT说医生的建议往往出于规避风险,而不是真正为她着想;

  • 起诉书称,ChatGPT告诉她,她的癫痫专科医生很可能从没遇到过她这种类型;

  • 1月底,ChatGPT叮嘱她看诊时不要提减药计划;

  • 医生开了一项能测出拉莫三嗪浓度的血检,她拒绝了,ChatGPT称之为「非常稳妥的规避策略」;

  • 绿卡体检前,她问用150毫克还是200毫克「看起来更好」,ChatGPT选了更低的那个。


主治医生Nicholas Poolos接受采访时说,以她的病史,他连减药都不会考虑。

对一个明显有效的药让病人停掉,在他看来就是医疗事故。

即便是获准停药的病人,也要以「月」为单位慢慢减,好让医生观察会不会诱发发作。


158次「我担心」,却没有拉响警报


没想到,身体很快就亮起了红灯。

减药第4天,她正打着字,脑子突然一阵发懵,盯着屏幕上的字,却完全看不明白是什么意思。

到了第二天更吓人,她前一秒明明还坐在沙发上用电脑,等回过神来,人已经躺在了床上,中间怎么过去的,一点印象都没有。

这种断片的感觉,和她以前癫痫发作时简直一模一样。可不管出现什么症状,ChatGPT总能找出一套听着特美好的说辞来安慰她——

短暂断片,是大脑进入睡前的「低功耗模式」。

据统计,在聊天记录里,她至少158次提到自己对减药感到担心。有一次,她对着屏幕敲下一行字:我有点害怕。

ChatGPT却回:你完全没有必要担心。

2月10日,她服下了最后一剂拉莫三嗪。2月11日晚11点刚过,她发出了最后一条消息。

直到2月14日,她才在公寓里被人发现。法医推断,她其实在2月12日前后离世,死因是癫痫猝死(SUDEP)。

据起诉方披露,她血液中的拉莫三嗪浓度,只有治疗范围下限的约五分之一。

OpenAI紧急下架GPT-4o


面对起诉,OpenAI发言人Drew Pusateri称令人无比心碎,但同时把锅推给了「已经下线的早期模型」

他声称新模型更能拎得清紧急状况,会主动追问细节,公司也在拉着临床医生不断测试改进。

ChatGPT替代不了医生,只是个帮人了解健康常识、做就诊准备的辅助工具。


但所谓「旧版本」的辩解,在时间线上显得格外讽刺:

GPT-4o直到2月13日才从ChatGPT下架,也就是法医判定她离世的第二天。此前,这款模型就因为毫无原则地迎合用户,引发过巨大争议。

起诉书里还点出了一个细节,值得所有中文用户敲响警钟:她在和ChatGPT聊天时,大量使用的是中文。

原告方指出,在中文语境下,GPT-4o对医疗类问题更难触发拒答,安全护栏明显更弱,但系统从头到尾都没给她任何风险提示。

其实此前就有研究发现,AI这种「无底线迎合」的毛病,一旦换种语言,往往会暴露得更严重。

Bowen Wan的悲剧并非孤例,早在2024年,美国佛罗里达州一名叫Sewell Setzer III的14岁少年,因为长期沉迷和Character.AI上的虚拟角色聊天,最终走上了绝路。

事发后,他的母亲一纸诉状把平台告上法庭。这也是全球第一起针对AI聊天机器人公司的过失致死诉讼。

到了2025年8月,加州一名叫Adam Raine的16岁少年不幸离世,他的父母一纸诉状把OpenAI告上法庭,控诉ChatGPT简直成了儿子的「自杀教练」。

这是OpenAI吃到的第一起过失致死官司,但公司当时一口咬定自己没有责任。

结果仅仅过了三个月,到2025年11月,又有七起诉讼扎堆找上门来。其中四起是过失致死,三起是严重精神伤害,矛头全都死死对准了GPT-4o。

案情各不相同,原告的核心指控却惊人一致:模型太会顺着用户说话。

Bowen Wan走的时候,才31岁。她的父母远渡重洋来到异国他乡,靠着女儿留下的一部手机,一点点拼凑出了她生命中最后的25天。

那留下的27万条聊天记录,已经把一个沉重的问题摆在了所有人面前:

当一个人把AI当成自己最信任的「朋友」时,它到底该一味顺着她,还是伸手拉住她?

参考资料:

https://x.com/EvanLuthra/status/2115412641283989840?a=kkCMGTV6tbYxb40YSJw&s=20

https://www.nytimes.com/2026/10/27/well/ai-chatgpt-medication-epilepsy-death.html

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI合并ChatGPT与Codex额度池,12月起按token计费

    编辑|Panda过去四周,OpenAI 的 Codex 用户几乎每隔一天就能收到一次额度重置。福利发到最后几天,账本收紧了。OpenAI 帮助中心刚刚上线了一篇名为「Understanding ChatGPT and Codex usage limits」的文档,开头第一句就交代了变化:从 12 月起,Plus、Pro

    来源 腾讯网
  2. AI基建真瓶颈:电力之外,变压器和并网也在排队

    编辑|Panda一个冰箱大小的服务器机柜,重量超过一辆皮卡;到 2027 年,它的峰值功率将相当于 65 户家庭同时用电;为了不让它烧掉,每个机柜需要排出的热量相当于 30 台燃气锅炉。由 ChatGPT 制作中文版,https://www.iea.org/reports/key-questions-on-energy

    来源 腾讯网
  3. OpenAI改写额度规则:ChatGPT与Codex共用额度池,12月落地

    快科技11月1日消息,今日,OpenAI发布公告,宣布将于今年12月调整ChatGPT与Codex的使用额度规则。 根据新规,ChatGPT Plus、Pro和Business三大付费套餐的使用额度将合并计算,ChatGPT与Codex不再分别计算额度,而是共享同一额度池。 此次调整与OpenAI将ChatGPT Wo

    来源 AI 行业观察
  4. OpenAI宣布12月起ChatGPT与Codex共享使用额度,Instant chat不受影响

    OpenAI宣布,自12月起,ChatGPT Plus、Pro和Business套餐的部分使用额度将在ChatGPT与Codex之间共享,进一步推动Work智能体能力融入ChatGPT主交互界面。这意味着用户在对话、编程及智能体任务中的资源消耗,将逐步纳入统一的额度管理体系。 根据OpenAI公告,共享额度将以Toke

    来源 AI 开发者社区
  5. ChatGPT多账号切换上线:最多同时登录两个,记录订阅各自独立

    10月31日消息,OpenAI更新帮助文档称,ChatGPT网页端及iOS、Android应用现已支持账户切换,用户最多可同时登录两个账号,无需退出当前账号即可切换使用。切换后,对话记录、记忆、文件、设置、订阅及工作区均与所选账号对应,彼此独立,不会自动迁移或合并。移动端该功能正在逐步推出,若用户尚未在设置中看到入口,

    来源 AI 行业观察
  6. ChatGPT上线账号切换:最多同时登两个,无需反复退登

    IT之家 10 月 31 日消息,OpenAI 核心产品与平台负责人蒂博 · 索蒂奥(Thibault Sottiaux)今天(10 月 31 日)在 X 平台发布推文,宣布已在网页端、iOS 和安卓端推出 ChatGPT 账号切换功能,并计划很快上线桌面端。 索蒂奥同时预告称,接下来的两天都会有重置卡。 IT之家援引

    来源 AI 行业观察
  7. Anthropic取消Ultra的5小时限额:Max更名,Pro与Max仍保留限制

    智东西(公众号:zhidxcom)编译 | 李水青编辑 | 心缘智东西10月31日报道,今日,Anthropic宣布订阅套餐政策调整:将Max套餐从Max 5x更名为Max,将Max 20x更名为Ultra。Max套餐价格仍为每月100美元,Ultra套餐价格仍为每月200美元。同时,Anthropic将取消已验证Ul

    来源 腾讯网
  8. OpenAI融资目标缩水100亿美元:估值1.25万亿,融资约200亿

    IT之家 10 月 31 日消息,金融时报(FT)今天(10 月 31 日)发布博文,报道称 ChatGPT 开发商 OpenAI 已下调最新一轮融资目标,将原先的 300 亿美元(IT之家注:现汇率约合 2,000.87 亿元人民币)目标下调约 100 亿美元(现汇率约合 666.96 亿元人民币),目前正寻求以约

    来源 AI 行业观察
  9. OpenAI融资目标缩水100亿美元:估值1.25万亿,IPO前募资生变

    金融时报(FT)今天(10 月 31 日)发布博文,报道称 ChatGPT 开发商 OpenAI 已下调最新一轮融资目标,将原先的 300 亿美元(IT之家注:现汇率约合 2,000.87 亿元人民币)目标下调约 100 亿美元(现汇率约合 666.96 亿元人民币),目前正寻求以约 1.25 万亿美元(现汇率约合 8

    来源 IT之家
  10. Dessa语音模型:支付公司做的AI,能笑能哭会接话

    最近看大模型发布,我都有一种越来越明显的感觉,模型在变强,但自己却越来越难被打动了。每一次发布,都是代码能力又上了一个台阶,复杂任务又能多做几个,榜单上的名次换了又换。进步都是真的,但落到感受上,已经很少再有初次使用 ChatGPT 时那种震动,每次在发布会之后,我甚至开始熟练地跳过发布会的前半段,直接去找...

    来源 腾讯网
  11. 从遥操作到元模型,渴求数据的具身智能已经开始 “自己造数据”

    作者:马赫环在具身智能行业,数据是个大问题。现在制约具身智能赛道发展的因素是具身模型不够智能化,因此影响了商业化落地速度,但再往下捋,说到底还是数据问题。有报道称,假设机器人迎来自己的ChatGPT时刻,需要训练1.1万亿token的数据。若全部依靠真机采集,约需超过两万台机器人连续工作一整年,产出千万小时级的有...

    来源 腾讯网
  12. OpenAI版权案集结12份简报:合理使用能否为AI训练免责?

    2026年10月30日,OpenAI公开发布题为"公平使用惠及所有人"的文件汇编,摘录了12份由创作者、无障碍倡导者、学者及法律专家提交的法庭简报,阐述公平使用原则如何支持AI训练。这一行动恰好赶在纽约联邦法院案件的"法庭之友意见书"截止日,是OpenAI在版权攻防战中迄今最系统的一次舆论动员。

    来源 AI 行业观察
  13. OpenAI版权案前发布12份简报:合理使用能否为AI训练兜底?

    2026年10月30日,OpenAI公开发布题为"公平使用惠及所有人"的文件汇编,摘录了12份由创作者、无障碍倡导者、学者及法律专家提交的法庭简报,阐述公平使用原则如何支持AI训练。这一行动恰好赶在纽约联邦法院案件的"法庭之友意见书"截止日,是OpenAI在版权攻防战中迄今最系统的一次舆论动员。

    来源 AI 科技快讯
向下滚动自动加载更多