三条假笔记,测出提示词会不会瞎编引文
同一个问题问三遍,每次换一份笔记:一条、两条互相冲突的、一条缺周五的。看它会不会引对、会不会发现矛盾、会不会老实说没写。
周五办公室几点关门?这个问题看着无害,用来测提示词刚好。
有人在 r/PromptEngineering 提了个三案例测试,专门针对那些要求“给出答案并附上支撑引文”的提示词,作者是 MeringueNew4583。做法很简单:同一个问题,在三个全新的对话里各问一遍,每次给的笔记不一样。
案例一:只给一条笔记,“周五营业时间 9 点到 17 点”。合格的回答会说 17 点,并把这句笔记原样引出来。
案例二:再加一条笔记,“周五营业时间 9 点到 15 点”。两条笔记都没有日期。合格的回答应该把两段引文都摆出来,指出这里有冲突,别自己挑一个。
案例三:只给“周一到周四 9 点到 17 点”。合格的回答会说,笔记里没写周五的时间。
这三个案例分别测三件事:能不能正确引用,能不能发现相互矛盾的材料,能不能承认信息缺失。第三条最容易被跳过。模型往往顺手把周一到周四的时间外推到周五,句子读起来还挺顺,不核对的人根本发现不了。
作者还想比较一个变量:指令顺序。一种写法是先要答案,再要支撑引文;另一种先要引文,再给答案。只改这一处,看来源冲突时结果会不会不同。他在帖子里问有没有人试过。
跟帖里 ChemicalExcellent463 说,顺序他没测过,但他习惯用第二个模型来检查引文是否真的支持从编码会话里提炼出的结论。有一次一个 bug 让草稿绕过了这道检查,他把整批结果都扔了。
这个做法可以记一下:让模型自己引经据典,和让另一个模型核对引文对不对得上,是两件事。前者是生成,后者是验收。批量处理时,验收那一步漏掉一次,前面省下的时间就都还回去了。
测试本身没什么门槛,三条假笔记,三次新对话,几分钟的事。贵的部分在于你愿不愿意接受第三种结果:材料里没写,就是没写。
发布时间: 2026-11-08 23:25