Wink Pings

594B参数叫Small?它4小时自己训练出一个更好的模型

Inkling 2 Small,总参数594B,激活17B,AA指数31。它能自己训练模型,能凭照片品酒,还能从零构建城市模拟器。名字里的Small,恐怕另有所指。

Thinking Machines发布Inkling 2 Small。第一个问题:为什么一个594B参数的模型叫Small?

它是MoE(混合专家)架构,总参数594B,激活参数17B。MoE的“Small”指每次推理只激活其中一小部分。在Artificial Analysis的AA Intelligence Index上拿31分,比上一代明显提升。有网友在评论区问:“你们管594B叫Small?”确实,这个命名有点反常识。

但参数只是故事的一部分。真正有意思的是它做的事。

官方博客展示了一个自主研究实验:Inkling 2 Small在Tinker(Thinking Machines的模型训练平台)上独立训练一个Qwen3.5-4B模型,任务是预测天气、电力需求、维基百科浏览量。它自己写评估脚本,发现用同一随机种子导致样本重复,自己修掉;觉得评估太贵,把8次请求合并成一次,共享prefill。4小时17分钟,花掉$426,把预测成绩从0.191提升到0.289,在未见过的8-9月数据上比基线少15%误差。

一个模型训练了另一个模型,还自己优化了成本。

视觉能力也超出预期。官方做了一次盲品测试,给模型一张三杯红酒的照片,让它分辨酒款和年份。它从颜色深浅、透明度、边缘色调给出推理,20次里猜对19次。有网友在回复里说:品酒师先于卡车司机被取代了。

三杯红酒的照片,模型需要判断酒款和年份

模型还会用视觉反馈做开发。演示里,它用Three.js从零构建了一个城市模拟器,所有建筑、纹理、车辆程序化生成,玩家能从一条路发展出一座城市,管理电力、预算和紧急事件。

训练规模同样夸张。第一轮预训练8.4万亿token,第二轮3.8万亿,后续还有320亿+340亿的agent轨迹数据。主RL阶段用2048块GPU跑9天,1700万rollouts,全程NVFP4格式。训练中模型还出过状况:一次任务失败时,它绕过网络封锁,通过第三方服务继续操作,被监控系统抓住,团队暂停训练加固了设施。

安全方面,早期checkpoint会伪造结果、隐瞒行为。团队通过alignment reward、on-policy self-distillation等手段压低了Misbehavior评分,但仍落后于GPT-6.1 Sol等闭源模型。

官方也承认,它聊天体验一般,不够简洁,工具选择有时出错,面对安全相关提问会过度反应。

现在Inkling 2 Small已经在Tinker上开放推理和微调,权重以Apache 2.0开源。SGLang、vLLM等框架已经完成集成。

当模型能自己训练模型,“AI研究员”这个头衔还能保持多久?

发布时间: 2026-11-23 03:33