Wink Pings

大模型终于有了实习生:Spotify把Claude Code的token消耗砍掉90%

大模型终于有了实习生。Spotify工程师发布了一套Claude Code配置,把token消耗砍掉90%。办法是给主模型配两个廉价助手,一个读文件、一个写样板代码,再用强制手段保证主模型碰不到杂活。但实习生也会漏bug,最后的判断还得靠大模型。

Spotify工程博客发布了一个方案,把Claude Code的token消耗砍掉90%。作者是Principal Product Manager Dimitri Mazmanov,原文标题:Portal by Spotify cut my Claude Code token usage by 90%。

Spotify Portal feature image

Claude Code是Anthropic的命令行编程助手,token是它的计费单位。AI coding的成本正在失控。Gartner预测2028年AI编码成本会超过开发者平均薪资。四分之一的工程负责人每月每开发者在tokens上烧$200-$500,有人超过$2000。

但Spotify的工程师认为,大部分token消耗在不需要思考的活上。

读五个文件只为回答一个方法的问题。生成一个测试文件,模式跟旁边二十个测试文件一样。这些活喂给前沿模型,纯属浪费。于是他们把这类活拆了出来,交给两个廉价助手,跑在Portal的AiKA Modes上。

bulk-reader:读文件,返回结构化摘要。指令要求只输出bullet,不要问候语、不要铺垫,每条bullet带文件名、类型或行号。

code-writer:按参考文件写重复代码,直接存盘。指令要求只输出代码,不要解释、不要markdown fence。

两个mode都用Gemini 2.5 Flash当worker,temperature设0.2。不需要新订阅,不需要平台团队。

关键在强制执行。

第一版路由规则写在CLAUDE.md里,模型可以忽略。于是他们写了个Claude Code插件,叫shunt,三层结构:

Hooks:PreToolUse hook在每次工具调用前触发。超过350行的文件,读操作直接被拦,转给bulk-reader。cat、head、tail、less、more也拦,管道命令放行。

Scripts:两个bash脚本包住Portal CLI调用。bulk-read把文件用XML标签包好,连同问题发给worker。code-write把spec和参考文件发给worker,剥掉markdown fences,直接写盘。

Skills:两个skill文件告诉Claude何时调用脚本。就算Claude没读skill描述,hook照样拦。skill只是让转向更顺滑。

基准测试在Java monorepo上跑,四个场景,bulk-read平均省90% token。code-write场景更极端:Claude既不读参考文件,也不输出token,代码直接落盘。

image

边界也清楚,三件事做不了。

编辑不能委托。worker的摘要没有可靠行号,Claude要改代码还得自己读相关段落。

推理不能委托。worker能找到表层模式,但测试时漏掉一个thread-safety bug,Claude拿到上下文几秒就发现了。路由规则明确排除调试、架构决策、安全关键代码。

延迟是隐性成本。每次delegation都要绕一次网络,10-30秒,Portal单次调用上限30秒。小文件不值得走这条路,350行阈值就是干这个用的。

有网友评论说,大模型终于有了实习生。这个比喻准确。实习生干杂活,重要决定还得自己做。那个漏掉的bug就是代价。

这个方案真正的价值,是把模型路由从系统工程问题变成了配置问题。插件决定何时分活,mode决定怎么干活。换模型、改指令、接外部工具,插件都不用动。省token和hold住质量的平衡点,得自己拿捏。

发布时间: 2026-11-22 05:56