Wink Pings

ChatGPT 漏出一段内部提示词:工具失败后,连原问题也别答了

Reddit 用户贴出一段异常回复,里面要求模型在 Python 工具不可用时直接终止任务。跟帖有人猜防越狱,有人猜省算力,也有人怀疑这段提示词是模型编的。

Reddit 的 r/ChatGPT 版块,用户 OddNumb 发了一张截图,说 ChatGPT 疑似漏出了一段内部提示词。触发场景不复杂:Python 工具调用失败。截图里的回复开头是一句固定话术:“It seems like I can’t do more advanced data analysis right now. Please try again later.” 后面贴出的完整指令更直接:先明确告诉用户无法调用 python_user_visible.exec,不要重试,不要回答用户原问题;如果任务涉及文件创建,也不能手动生成文件,必须用 Python 工具。

ChatGPT 回复截图

这条提示词真正扎眼的地方,是它把“工具不可用”处理成了“任务终止”。工具调用失败只说明某条路径断了,用户原本的问题可能还有别的解法。跟帖里 GullibleOnPurpose 就抓住这一点:阻止重复调用说得通,禁止模型考虑其他可行办法,是另一层限制。工具失败应该收窄方法,没必要直接结束任务。

也有人给出不同猜测。piedamon 认为这像防越狱逻辑:早期常见的一种绕过方式是让模型反复跑 Python,失败后继续尝试,直到拼出一个能间接回答敏感问题的工具。OddNumb 补充自己用的是免费版,所以也可能是限制非付费用户,避免在失败调用上消耗资源。rand0mstrings 的猜测更偏输出质量:数据分析代码失败后,模型可能凭想象编一个看起来合理的答案,干脆让它停住。

这些解释都只是跟帖里的推测。OddNumb 自己也说,不能排除模型临时编了这段提示词。截图能证明的是,用户看到了一段异常明确、带工具名的指令文本,不能直接证明 OpenAI 的内部策略全貌。

另一个讨论方向更值得留意。Zone52 说自己近几周观察到,部分模型在简单问题上也会出错,纠正后仍绕,怀疑产品优先维持对话而非给出正确答案。ZeroAmusement 认为这种说法难证伪,nokom 则把它类比成社交媒体用算法延长使用时长。这里没有硬证据,只有用户体验和猜测。

技术细节上,TheChosenJen 提到导出 markdown 能看到不少提示词,LoneSpaceDrone 补充操作就是输入“export to markdown”。Dontmindme-ok 说自己的 ChatGPT 一天能展示十几次提示词,模型发现后会慌张道歉。Voyeurdolls 的描述更细:用户看到的回复和底层模型之间隔了多层防护,某次让模型把已有图片带进对话,连续失败,直到把失败定义写清楚才成功。

这条泄漏文本本身不复杂,信息量在边界:当工具失效,模型被要求少解释、少重试、少继续回答。对普通用户,它解释了那句固定报错为什么有时显得生硬。对开发者,它提醒工具调用失败后的回退策略会直接改变产品行为。至于背后是防越狱、省资源、压幻觉还是模型编造,单张截图不够下结论。

发布时间: 2026-11-05 06:19