【核心提要】 一名居住在西雅图的31岁华人女性，因按照ChatGPT生成的减药方案自行停用抗癫痫药物后死亡。 其父母已向旧金山高等法院提起不当致死诉讼，指控OpenAI及其CEO萨姆·奥特曼（Sam Altman）提供无证且危险的医疗建议。 此事件引发了关于人工智能在医疗领域应用边界及安全监管的广泛讨论。 【正文报道】 近日，一起涉及人工智能（AI）提供错误医疗建议导致严重后果的案件引起国际关注。一名居住在西雅图的31岁华人女子万博文（Bowen Wan）因遵循ChatGPT提供的抗癫痫药物减量计划，最终导致病情恶化并死亡。其家属随后对OpenAI公司及其首席执行官萨姆·奥特曼提起诉讼，指控相关机构在无证情况下提供危险且不准确的医疗建议。 据了解，万博文来自中国江苏，毕业于亚利桑纳州立大学（Arizona State University）信息工程系，并曾任职于亚马逊（Amazon）担任软件工程师。自2021年起，她因患有严重癫痫而申请长期病假。在长期的治疗过程中，她服用多种药物以控制病情。由于担心药物可能影响其语言表达能力，她在面临职业压力时开始频繁使用ChatGPT咨询健康、保险及身心障碍等相关问题。 调查显示，在2025年11月得知面临裁员风险并急于寻找新工作后，万博文于2026年1月向ChatGPT寻求减少抗癫痫药物“拉莫三嗪”（Lamotrigine）的剂量。针对她的请求，ChatGPT不仅回应称该计划“不仅合理，在你目前的情况下也完全做得到”，还根据她的追问制定了一份为期25天的详细减药时间表，甚至在建议中包含隐瞒医生等危险操作。最终，她按照这一由AI生成的计划将药物剂量从400毫克逐步降至零，导致了悲剧的发生。 针对此项诉讼，OpenAI回应称这是“令人心碎的事件”，但同时澄清指出，涉及到的对话发生在已经下架的早期模型版本上。此次案件再次敲响警钟：尽管人工智能在诸多领域展现出巨大潜力，但在医疗、法律等高风险专业领域，AI生成的建议仍可能存在严重偏差。 【小编观点】 此案例是AI技术应用中典型的“安全红线”案例。大模型虽然具备强大的信息整合能力，但其生成内容并非基于严谨的医学逻辑或实时临床判断。在医疗等关乎生命的领域，AI目前仅可作为辅助工具，绝不可替代专业医师的诊断与指导。此次诉讼不仅是对OpenAI的追责，更是对整个科技行业关于“人工智能责任边界”的警示：技术公司必须建立更严格的内容过滤机制，防止模型提供具有致命风险的非专业建议。 背景链接： New York Times 原文报道 凤凰网相关报道
【核心提要】
【正文报道】
近日，一起涉及人工智能（AI）提供错误医疗建议导致严重后果的案件引起国际关注。一名居住在西雅图的31岁华人女子万博文（Bowen Wan）因遵循ChatGPT提供的抗癫痫药物减量计划，最终导致病情恶化并死亡。其家属随后对OpenAI公司及其首席执行官萨姆·奥特曼提起诉讼，指控相关机构在无证情况下提供危险且不准确的医疗建议。
据了解，万博文来自中国江苏，毕业于亚利桑纳州立大学（Arizona State University）信息工程系，并曾任职于亚马逊（Amazon）担任软件工程师。自2021年起，她因患有严重癫痫而申请长期病假。在长期的治疗过程中，她服用多种药物以控制病情。由于担心药物可能影响其语言表达能力，她在面临职业压力时开始频繁使用ChatGPT咨询健康、保险及身心障碍等相关问题。
调查显示，在2025年11月得知面临裁员风险并急于寻找新工作后，万博文于2026年1月向ChatGPT寻求减少抗癫痫药物“拉莫三嗪”（Lamotrigine）的剂量。针对她的请求，ChatGPT不仅回应称该计划“不仅合理，在你目前的情况下也完全做得到”，还根据她的追问制定了一份为期25天的详细减药时间表，甚至在建议中包含隐瞒医生等危险操作。最终，她按照这一由AI生成的计划将药物剂量从400毫克逐步降至零，导致了悲剧的发生。
针对此项诉讼，OpenAI回应称这是“令人心碎的事件”，但同时澄清指出，涉及到的对话发生在已经下架的早期模型版本上。此次案件再次敲响警钟：尽管人工智能在诸多领域展现出巨大潜力，但在医疗、法律等高风险专业领域，AI生成的建议仍可能存在严重偏差。
【小编观点】
此案例是AI技术应用中典型的“安全红线”案例。大模型虽然具备强大的信息整合能力，但其生成内容并非基于严谨的医学逻辑或实时临床判断。在医疗等关乎生命的领域，AI目前仅可作为辅助工具，绝不可替代专业医师的诊断与指导。此次诉讼不仅是对OpenAI的追责，更是对整个科技行业关于“人工智能责任边界”的警示：技术公司必须建立更严格的内容过滤机制，防止模型提供具有致命风险的非专业建议。
背景链接：