系统提示词每次调用都在花钱:有人砍掉28%,规则一条没少
一个431 token的客服机器人系统提示词,删掉重复政策、格式化JSON和客套话后降到310 token。所有规则和事实都还在。帖子作者说,最常见浪费是重复规则。
系统提示词会随每次请求一起发送。在按 token 计费的 API 里,它每次调用都要付钱。Reddit 的 PromptEngineering 版上,网友 behrouzbk 做了个测试:只看系统提示词,在测试请求里它占了 98% 到 99%。
他拿一个客服机器人提示词开刀,原长 431 token。里面有这些多余内容:
- 退货政策贴了两遍,53 token
- 用 pretty-print 的 JSON 写输出格式,23 token
- 'Standard shipping takes 3 to 5 business days.' 出现两次,11 token
- 'Always respond in English' 后面又跟了一句 'Remember to always respond in English',8 token
- 'I would like you to please…'、'As an AI language model…'、'Thanks in advance!',26 token
删完这些,提示词变成 310 token。431 到 310,少了 121 token,约 28%。原文说,每条规则和每个事实都还在。
这 121 token 怎么来的,账很好算:53 + 23 + 11 + 8 + 26 = 121。省下的是重复、格式和客套,写作技巧没变。
帖子作者提到,他在真实提示词里见得最多的是重复规则。模型忽略过一次,人就补一句 'Remember to…'。补完之后,这句话往往就留在系统提示词里,每次请求都跟着走。
原帖在这里。作者也在问,别人在系统提示词里最常看到的浪费是什么。
发布时间: 2026-11-07 04:17