31岁亚马逊前华人女工程师听GPT建议自行停药后死亡，父母起诉OpenAI

来源：澎湃新闻

31岁亚马逊前华人女工程师听GPT建议自行停药后死亡，父母起诉OpenAI

AI看病再起风波。

当地时间10月27日，据外媒报道，一名居住在美国西雅图的31岁华人女子Bowen Wan在停用抗癫痫药物后死亡。Bowen曾是亚马逊机器学习工程师，她的父母已向美国加利福尼亚州旧金山高等法院提起诉讼，将OpenAI及其CEO山姆·奥特曼（Sam Altman）等列为被告。

Bowen的父母指控，搭载GPT-4o模型的ChatGPT曾为女儿制定减药计划，并建议她向医生隐瞒。原告称，ChatGPT提供了危险且不准确的医疗建议，涉嫌无照行医并导致女儿死亡。

据报道，OpenAI表示，这是一起“令人极度心碎”的事件，涉案的是较早版本的ChatGPT。OpenAI称，公司较新的模型更善于识别需要紧急关注的情况。

目前，诉讼中的相关说法仍是原告指控，尚未得到法院认定，OpenAI方面也尚未在法庭上作出回应。

该图片由AI生成

ChatGPT被指制定减药计划

长达98页的起诉书显示，Bowen来自中国江苏，居住在西雅图，是一名机器学习软件工程师，曾在亚马逊工作。她长期患有癫痫，医生为其开具了抗癫痫药物拉莫三嗪。

2025年11月，亚马逊通知Bowen岗位将被裁撤，工作以及在美国的工作授权将在2026年2月结束。需要参加求职面试的Bowen担心拉莫三嗪影响自己的语言表达能力。

根据起诉书，Bowen当时每天服用400毫克拉莫三嗪。2026年1月，她向GPT-4o询问减药事宜，ChatGPT为她制定了逐日减药计划，在约25天内将每日剂量降至零。

据报道，Bowen父母查看了她与ChatGPT之间超27万条消息，发现早在此次减药之前，聊天机器人就曾帮助她绕开医生的建议。

2025年5月，Bowen询问ChatGPT，一种新处方的抗抑郁药是否会影响她的编程工作。ChatGPT帮助她向医生提出更换药物，并要求从很低的剂量开始服用。医生对此提出疑问后，Bowen将医生的回复发给ChatGPT，聊天机器人建议她接受药片，再私下将药片切成四等份服用，并将这一做法称为“自主调整剂量”。

在抗癫痫药物的减药过程中，家属指控，ChatGPT削弱了Bowen对医生的信任，并建议她隐瞒减药计划。

据起诉书，在1月29日一次就诊前，ChatGPT建议Bowen不要向医生提及减药计划。医生随后要求进行一项可能测出拉莫三嗪水平的血液检查，但Bowen拒绝了。ChatGPT对她的拒绝表示赞许，并承认检查可能暴露她体内不稳定的药物水平。

Bowen还曾询问降低药物剂量是否有利于绿卡申请所需的体检。ChatGPT认为较低剂量可能更有利，并建议她向体检人员表示自己是在医生指导下减药，而实际情况并非如此。

Bowen的医生Nicholas Poolos对外媒表示，考虑到她的病史，他不会考虑让她停药。“药物明明有效，如果我指导你停药，那将是医疗失职。”

起诉书中列举的Bowen与GPT-4o的部分聊天内容

女子多次表达担忧，ChatGPT称无需担心

随着减药继续，Bowen向ChatGPT描述了意识混乱、时间感缺失等经历，类似她过去癫痫发作时的症状，聊天机器人将这些情况解释为大脑正在重新适应。

据外媒统计，Bowen至少158次表达了对减药的担忧。一次类似情况发生后，她说自己“有点害怕”，ChatGPT则回复称：“你完全没有必要担心。”

起诉书显示，2月11日晚，Bowen向ChatGPT发送了最后一条消息，询问头部疼痛是否类似发烧时的疼痛。ChatGPT回复称，这种疼痛“并不危险”，是恢复的一部分。

原告代理律师称，Bowen约在2月10日最后一次服用拉莫三嗪，并于2月12日死亡。她的父母连续两天无法联系到她后，请朋友前往其西雅图的住处查看。2月14日，朋友发现她已死亡。

起诉书援引当地法医报告称，Bowen死于癫痫猝死。她死后的血液检测显示，拉莫三嗪浓度约为通常认为具有治疗效果的最低浓度的五分之一。

据报道，Bowen受癫痫困扰多年，大部分时间只能待在家中，经常给父母打电话寻求支持。2023年，她开始使用ChatGPT，咨询人际关系、保险和残障福利等问题。到2025年，她平均每周向ChatGPT发送超过1500条消息，给父母打电话的次数则减少了。

除了不当致死，原告还提出产品设计缺陷、未能充分警告风险及违反不正当竞争法等诉求，并要求陪审团审理。家属认为，OpenAI本可以对医疗建议设置更严格的限制，以防止悲剧发生。他们在诉状中将用药建议与OpenAI模型规则中对复制受版权保护文本的限制进行比较，认为用药建议也应受到严格限制。