Wink Pings

ChatGPT最近总劝人去急诊,是怕被告还是人把症状说轻了

一条Reddit帖子抱怨ChatGPT在医疗场景里过度推荐紧急护理。跟帖里,有人抱怨每周至少四次被它建议去ER,有人靠它认出Tegaderm和替代影像检查,urgent care工作人员却说拿着AI诊断来的人几乎都错。争议背后有诉讼压力,也有一个被忽略的事实:普通人描述症状的方式,常把危险信号说没了。

r/ChatGPT上一条帖子标题很直白:ChatGPT最近在多数医疗场景里灾难性地建议人去紧急护理。楼主Azratoh列出的回复模板包括去urgent care、别等、今天就得让医生评估、可能很严重、出现某情况打911。原帖在这里。

跟帖很快分成两类。有网友说,它每周至少四次把自己送去ER,另一个说已经让它别再给医疗建议。还有人补刀:42分钟了,你死了吗。另一类认为模型活该保守。有网友说得直白:这么做是因为不这么做,总有人会把平台告上法庭。有人把这事比作塑料袋上印“别把袋子套头上”的警告。也有网友提到,此前一名女性在采纳ChatGPT建议后死亡,之后平台改了回答方式,避免被起诉。这个说法来自跟帖,无法独立核实,但它解释了为什么模型的医疗话术越来越像分诊台。

更值得看的是一位网友提到的JAMA研究:参与者拿到一组症状,被要求假装自己正经历这些症状,再用自己的话问AI怎么办。那些症状是危及生命的典型信号,可近一半情况下,参与者的描述方式让AI给出吃泰诺这类普通处理。例子是“你这辈子最严重的头痛”。字面上它可能指向脑出血一类急症,口语里它常常只是“今天头很痛”。模型面对被压缩过的信息,偏向急诊并不奇怪。

旧时代的WebMD也被拉出来对照。有网友说,当年查一个普通头痛,WebMD能列出偏头痛、动脉瘤、脑癌,他从此不再听网络医疗建议,只预约医生。这个反应很实在:模型给的更像风险提示,人想要的却常是确认没事。

跟帖里也有反例。有网友说,女儿腿被刺伤后不肯去urgent care,他本来会清理伤口,但怕漏步骤,ChatGPT推荐了Tegaderm,一种他没用过的敷料,后来伤口没红没感染。另一位网友有罕见眼病,Gemini告诉他户外对比度和眩光可能刺激眼肌痉挛,建议换绿色或琥珀色偏振镜片;他的医生没听过这个说法,但镜片确实有用。他还提到疑似肺栓塞时,因为对CT造影剂过敏,ChatGPT建议他询问替代影像并帮他组织转院沟通,最后排除了肺栓塞,实际是哮喘发作,需要住院。医院医生认可他的处理。

这些案例有个共同点:当事人愿意追问和核对,其中一位还提到自己家里人在科学和医疗领域,从小接触医学信息,读PubMed,仍然对LLM保持怀疑。危险落在另一群人身上:没有足够医学知识,把聊天框当医生,顺着模型的回答往下聊,还不核对。

在urgent care工作的人跟帖更直接:过去一年,很多人带着ChatGPT给的诊断来,几乎总是错的。这句和上面的正面案例不矛盾。模型可以帮人找到一个没听过的敷料名,可以提醒一个被忽略的影像选项,也可以在信息不足时把人推向急诊。它只在部分任务上可靠,医疗诊断不在其中。有网友测试后说,它仍会给医疗建议,只是把ER警告放在底部,并列出需要观察的信号。这个折中大概会持续:平台怕诉讼,用户怕被过度分诊,真正危险的是把两边都当成绝对答案。

发布时间: 2026-11-22 13:08