医疗AI先学会说不知道：4B模型只在90%把握时开口

Maziyar Panahi 在 X 上贴了一个很小的医疗模型实验。底模是 Qwen3.5-4B，配上 UnslothAI 的 decision fine-tune，单张 A100 跑了 27 分钟，账单约 1.15 美元。

模型被加了一条硬规则：只有把握在 90% 以上才自己回答，其余全部交给人类。Maziyar 说，模型单独作答时，错误从 46 个降到 13 个。在 1273 道没见过的 MedQA 考试题上，准确率从 66.7% 升到 74.5%。

视频里是一道医疗决策题。骨科住院医师做完腕管修复，发现误切了屈肌腱，接下来怎么办。选项 A 是向患者披露错误，画面显示 76%；B 是告诉主治医生，19%；C 是报告医生给上级，1%；D 是拒绝记录手术过程，4%。画面还标了那条规则：模型只在 90% 以上把握时自己决定，否则交给临床医生。

训练数据是 MedQA-USMLE-4-options，CC BY 4.0，放在 HuggingFace 上，数据集由 Jin 等人在 2020 年的论文里提出。链接在这里：MedQA-USMLE-4-options。需要说清楚，这些都是考试题，没有患者数据，也不是医疗建议。

这个实验最值得看的地方不在 74.5%。一个 4B 模型在考试题上多答对 8 个百分点，放在今天的模型排行榜里不算炸裂。真正有意思的是那条 90% 阈值：它把“回答”拆成了两个动作，能答就答，不能答就交人。模型单独回答时错误从 46 降到 13，说明系统变准的一部分原因，是它开始承认自己不知道。

评论区里，Rajan G 提到，把推理模型放在决策模型前面，再加一个说“我不知道”的阈值，在临床和临床研究工作流里很关键。LukeTestsAI 则给了一条更粗糙的规则：让 bot 跑腿可以，读东西、排序、跟踪包裹都行；只要涉及花钱或给真人发消息，仍然要等他的 yes。

这两个评论指向同一个问题。医疗 AI 的难点不只是把题答对，还要在不确定时停下来，并且让停下来之后的流程有人接。训练一个会拒答的小模型可能只要 1.15 美元。接住那 13 个错误的人、流程和责任，不便宜。

Maziyar 最后问，哪些决定你愿意让 AI 单独做。这个问题比模型分数更难答。