56%的Token只花14%的钱:把Claude留给最难的10%
开源模型在Vercel AI Gateway上吃了56%的token,账单只占14%。日常任务交给便宜模型,难的留给Claude。5分钟能配好。文内有六个具体模型、五条接入路径和一组真实成本对比。
八月,Vercel的AI Gateway——一个AI调用聚合层——处理的token里,开源模型占了56%,却只花掉每1美元账单中的14美分。其余的token,花掉了剩下的86%。
差距的来源很朴素:路由策略。日常编码、重构、文档这类普通任务交给便宜模型,真正难的那10%才动用Claude。
X用户@mikenevermiss把这套做法整理成了5分钟配置。
5分钟给Claude Code换一个便宜大脑
先装Claude Code:
npm install -g @anthropic-ai/claude-code
主目录放一个deepseek.json,填DeepSeek的API地址、key和当前V4 Pro的模型ID。模型ID类似deepseek-v4-pro,具体以DeepSeek官方文档为准。
用这个配置启动,DeepSeek接管:
claude --settings ~/deepseek.json
测试、重构、写文档,走DeepSeek。另一个终端照常运行claude,复杂任务交给Claude。同一套Claude Code界面,背后的大脑换了。
更直接的做法是用环境变量切换:
export ANTHROPIC_BASE_URL="https://api.deepseek.com/anthropic"
export ANTHROPIC_AUTH_TOKEN="$DEEPSEEK_API_KEY"
claude
DeepSeek会自动把Opus模型名映射到deepseek-v4-pro,Sonnet和Haiku映射到deepseek-flash。切回Claude,关终端或unset变量。
其他模型也兼容Anthropic协议。Kimi用https://api.moonshot.ai/anthropic,GLM用npx @z_ai/coding-helper。
Claude还在,只不过现在只负责最难的那10%。
为什么这件事没人大张旗鼓地说
美国大实验室的估值建立在“只有最贵的模型才够好”这个信念上。Anthropic的投资人据称期望IPO估值至少2万亿美元——这个数字需要客户相信顶级模型不可替代。
实验室也在补墙。10月12日,Anthropic宣布新防御让“蒸馏者”从Claude提取的数据减少了约90%到99%(Anthropic的蒸馏防御报告)。蒸馏,就是用强模型的输出去训练便宜模型。
关于中国模型的进展有多少来自蒸馏,研究人员仍有分歧。OpenAI政策主管Dean Ball说,蒸馏起的作用可能比他想的大。但无论原因如何,便宜模型是真实存在的,公开可下载,任何人都能用。
便宜多少,看数字
Artificial Analysis的Coding Agent Index用同一批真实任务测AI编程工具。2.0版本里,Claude Code跑Opus 5.5,每个任务成本$11.42。Codex跑DeepSeek V4.1 Flash,每个任务$0.39。
便宜96.6%。一个Claude任务的价钱,能跑约29个DeepSeek任务。
六个值得知道的开源模型
表格里的价格按每百万token算。token大致是词的片段,模型按token计费。
| 模型 | 主打用途 | 关键数字 | 许可证 |
|---|---|---|---|
| MiniMax M3.1 Flash | 落地页、脚本、快速修复 | $0.15/百万输入token,1M上下文 | 开源,商用有条件 |
| DeepSeek V4.1 Flash | 网站/Web应用 | $0.15/百万输入token,WebDev榜开源第一 | MIT |
| Kimi K3.1 Pro | 硬推理、超长文档 | $2/百万输入,$10/百万输出,智力指数第4 | 权重11月4日开源 |
| GLM-5.3-Flash | 自有硬件快速推理 | 30-70 token/秒(四台DGX Spark) | 开源 |
| Ming-3.0 | 文字转语音 | 0.5B参数,语音竞技场1,069 Elo | MIT |
| MiniCPM-V 4.7 | 手机读图 | iPhone 17 Pro Max上13+ token/秒,约3GB内存 | 开源 |
这些数字大多来自第三方评测,不是厂商自吹。WebDev榜单由真人盲评产生,DeepSeek V4.1 Flash是开源模型第一,得分1,670,排在Claude Opus 5(High档)前面。Kimi K3.1 Pro的智力指数排第4,前面是Claude Opus 5.5、Claude Sonnet 5.5和Muse Wonder Full。Ming-3.0支持粤语等中文方言;MiniCPM-V 4.7让图像不离开设备。
五条接入路径
Ollama,最省事:装好后一条命令跑MiniMax:
curl -fsSL https://ollama.com/install.sh | sh
ollama run minimax-m3.1-flash:cloud
:cloud标签把模型放到Ollama服务器上跑——模型太大,笔记本带不动。
DeepSeek API,给脚本和应用:注册、充值、建key。API兼容OpenAI格式,把base_url改成https://api.deepseek.com就能用现有代码。
Claude Code换后端:就是上面那两行环境变量。
OpenCode,免费代理:开源编程代理,限时免费提供DeepSeek V4.1 Flash。在OpenCode里用/models选DeepSeek V4.1 Flash Free。免费活动随时可能结束,如果请求开始失败,去模型列表里重新挑一个。
自己下载权重:GLM-5.3-Flash、Ming-3.0、MiniCPM-V 4.7都能在官方页面下载。数据不出机器,没有按量账单。GLM需要多GPU这类重型硬件,Ming和MiniCPM门槛低。
小模型打大模型的实证:Coinbase
Coinbase把阿里的Qwen3.5-9B微调成欺诈检测专用模型。微调成本不到$100。在自家欺诈基准上,这个9B小模型击败了Claude Opus 4.5,延迟还低55%。
结论窄但有用:Qwen不是全面超越Claude,但一个针对重复任务狠训过的小模型,能在那个具体岗位上赢过通用大模型。业务里有反复出现的同类任务,值得跑一轮测试。
用便宜模型的安全边界
- 大实验室的闭源模型在总体智力指数上仍居榜首。大型重构、多步代理任务、高风险决策,还是发给Claude。
- 只从官方页面下载权重。安全研究人员发现,“abliterated”(剥离安全训练)的开源模型可能藏后门。陌生人的二次上传是重灾区。
- 数据去向要清楚。任何托管API,提示词都会在对方服务器上处理。发客户数据或个人信息前读隐私政策。敏感内容,本地跑开源权重。
- 用模型做产品前查许可证。DeepSeek V4.1 Flash和Ming-3.0是MIT,商用随便;MiniMax的权重商用有条件。
- API key不要进代码。用环境变量,别贴在公开仓库或截图里。
怎么开始
把日常90%的路由给便宜模型,Claude只留最难的10%。从一条路径开始,拿一周正常工作试跑。记录哪个任务便宜模型搞不定,一周后那张清单就是你的10%。
发布时间: 2026-10-27 00:50