Wink Pings

小团队还在等定制模型降价,大公司已经先买单

20多家种子轮和A轮AI创业公司里,多数不碰定制模型。前期、维护、服务三层成本摆出来,账算不过来。等价格下降,简单任务和复杂长周期任务会先后进场。

目前只有一小部分用AI的企业在投定制模型。Su在X上给了一个范围:主要是所在品类里领先的大AI公司,比如Harvey、Cognition、DoorDash。它们不少买了Applied Compute、Trajectory、Baseten、Fireworks的定制后训练服务。

定制模型指在开源权重模型上做后训练,针对自家任务调质量和成本。后训练通常不等于从零训基础模型,常见做法是拿开源权重模型继续训练。

小公司这边冷得多。Su和20多家种子轮、A轮AI创业公司聊过,跨多个领域,多数认为不值。账拆开看:前期要策展数据、做评测、训第一个定制模型;维护要跟着基础模型升级更新;服务要付推理成本。收益两块:用更小的开源权重模型后训练,成本或延迟能降,前提是利用率够好;质量能在特定任务上提升,复杂、长周期任务最明显。

多数小团队觉得节省加质量没有明显大于前期加维护加服务。现在买后训练的公司,要么追很大的质量收益,要么推理成本高到节省能盖住成本。

X用户“大v(没互关就是在cd)”在回复里补了一个变量:任务稳定性。工作流每月变,便宜的训练可能买不到多少有用寿命。盈亏平衡要算真实请求量,也要算评测集多久重建一次。

Su的判断是这些成本会降。AI训练AI变强,前期和维护会改善;AC在做self-distillation产品,Trajectory推出self-serve;服务成本可以靠跨GPU智能池化请求提高利用率。价格下降后,种子轮和A轮团队也会进场。简单任务先看省成本,复杂长周期任务能同时拿质量和成本,两边都划算。Harvey和Cognition先到,因为负担得起。其他人等价格。

定制模型的门槛在持续维护和利用率,训一次只是门票。

原推配图:
image

原推在这里。

发布时间: 2026-11-18 09:26