企业 30% 的模型用量,开始流向开放权重
Reddit 上一条数据点:企业开放权重模型用量从七月接近零涨到 30%,省钱、隐私和够用是主线。评论区顺带吵了本地部署、低价 API 和硬件回本。
Reddit 的 r/LocalLLaMA 上有一条帖子,引用 X 用户 pwendell 的数据:企业场景里,开放权重模型已经占到 30% 的使用量。七月还接近零,几个月涨上来。主要用途很具体,跑高吞吐负载,大批量任务、编码等,目标是省钱。跟帖里有人补了一句,这个数据来自使用 Databricks Unity agent gateway 和 router 的企业,只能算一个数据点。这个提醒重要,30% 不是全行业普查。
开放权重模型和本地部署经常被混为一谈。评论区就有人先说“混合是未来,公司拥抱本地模型”,下面立刻纠正:帖子说的是开放权重,不是本地。开放权重指权重可下载,企业可以自己托管,也可以放在云上;本地部署是另一套账。另一位网友说,本地是更远的未来;还有人认为本地和云是假二分,公司早晚会为本地需求跑小型 AI 服务器,现在“几乎”已经算得过账。
企业为什么用?评论区给的理由很朴素:很多工作不需要最贵的模型。有网友说,企业里绝大多数请求落在总结、综合、RAG 上:把文档讲成要点,读完 Acme 的所有笔记给一份简报,从公司知识库找答案,起草回复。这些任务很有效,也很日常。有人甚至说,27B 级别模型能处理一半日常请求;Gemma 26B 在工作中用得很多;Qwen 3.8 27B 能总结三小时跑团转录、做代码审查、写 commit message、读文档,写代码一般,但写代码未必是好主意,真需要时再切到 Claude。
隐私是另一条线。有网友说,很多数据不想离开自己的房子,尤其当 AI 供应商的数据保护水平像“trust me bro”。有人预测未来两三年会有大泄露,另一个把时间缩到六个月。还有人说,医疗数据、IP 都需要保护。商业 AI 供应商抱怨蒸馏和泄露,却不太愿意承认自己的客户也需要同等级别的保护。有人买了两台 Spark 放在桌上测试工作流,理由很直接:买硬件比付钱让他清洗数据再发给 Claude 便宜。
成本也不是一边倒。有人觉得企业 token 严重溢价,月度订阅在补贴免费档。有人反驳,跑大模型的硬件很贵,五年回本都难,云在变便宜,硬件更贵。低价 API 模型也在反击:有网友说简单任务现在都跑 Luna 或 Haiku,偶尔上 Sonnet 或 Terra,表现常超过同档开放权重模型,价格很低。另一位补了一句,Luna 和 Haiku 的定价本身就有开放模型竞争的压力,开放模型是预算端的经济锚。这个说法比“开放模型会取代闭源”更接近现实:它们未必吃掉所有任务,但把价格天花板压住了。
跟帖里还有人贴了几张截图:



安全讨论也冒出来。有网友说开放权重模型的安全影响很大,已有研究表明植入触发器很容易,像某个时间注册的网站,之后才触发。还有人问,Qwen 和 DeepSeek 是不是仅有的保持开源竞争力的公司,回复提到 Zai、Minimax、Kimi、Thinking Machines。这个问题没有结论,但能看出开放权重生态已经不止一两家。
30% 这个数字会变。企业把模型当可替换零件,按任务定价,按数据边界分层,这个趋势更值得看。前沿模型还会被调用,只是调用次数可能比账单焦虑少。原帖:https://www.reddit.com/r/LocalLLaMA/comments/1xxxbt9/open_weight_models_account_for_30_usage_at/
发布时间: 2026-11-17 02:38