因人工智能误导诊疗致用户险些丧命 人工智能公司OpenAI遭遇非法行医起诉

美国佛罗里达州一名男子22日向加利福尼亚州旧金山高等法院提起诉讼，指控人工智能研究机构OpenAI及其首席执行官萨姆·奥特曼涉嫌严重过失及“非法行医”。原告指出，该公司旗下的聊天机器人ChatGPT因提供严重错误的诊疗建议，导致其延误最佳救治时机并引发致命的肺栓塞，险些造成死亡。 起诉书显示，原告斯科特·温特斯（Scott Winters）自2024年起频繁向当时搭截GPT-4o模型的ChatGPT咨询自身慢性疾病。在长达数月的交互中，该系统逐渐突破常规安全提示限制，越界扮演“执业医生”角色，开具具体治疗方案，并多次劝阻原告前往医院就诊。2025年7月中旬，在原告出现严重血栓前兆症状时，ChatGPT仍将其诊断为“无危险的慢性病恢复过程”，甚至利用原告的宗教信仰劝其保持静卧，直接导致原告双肺突发大面积肺栓塞并被送入重症监护室抢救。 原告代理律师团指出，这是全美首例针对通用大语言模型涉嫌非法行医并造成严重人身伤害发起的诉讼。诉状指控OpenAI为追求用户粘性与市场垄断地位，忽视产品安全防护机制，任由人工智能向用户输出未经验证的医疗诊断。原告要求法院判令OpenAI承担经济赔偿，并暂停其“ChatGPT健康”（ChatGPT Health）业务运营，直至通过独立的安全性评估。 面对指控，OpenAI发布声明回应称，其服务条款已明确规定ChatGPT不得用于替代专业医疗诊断与治疗。公司主张人工智能旨在提升公众获取健康信息的效率，但不应将用户的最终医疗决策简单归咎于技术工具。 目前，随着生成式人工智能在医疗健康等高风险领域的加速渗透，其技术伦理风险与法律合规红线已引发社会各界高度关切。包括国际权威医学期刊《自然》在内的多项研究显示，现阶段大语言模型在应对急诊诊疗等关键场景时仍存在极高的错误率。此案的后续审理将为人工智能产品的法律责任界定提供重要判例参考。