不写字的AI,开始给答案打分
TypeSafe 的 Jev 不生成文字,只给允许的答案算概率。一个月内 OpenAI 和微软推出类似产品;微软 Azure CTO 把 3.15MB 的决策核心放上 GitHub,能在普通笔记本 CPU 上跑。
Reddit 的 r/PromptEngineering 版块上,用户 galratner 发了一篇帖子。帖子里说,9 月出现了一种不写字的 AI。TypeSafe 的 Jev 读一遍情况,然后给你允许的每个答案一个概率。按帖子的说法,输出 token 是免费的,因为它根本不产出 token。

帖子还提到,一个月内 OpenAI 和微软就推出了自己的版本。随后,微软 Azure 的 CTO Mark Russinovich 把其中一个放到了个人 GitHub。这个叫 Venn 的项目,决策核心 3.15 MB,跑在普通笔记本处理器上,用公司自己的记录学习。
过去两年,大家默认 AI 的形态是聊天框。输入一句话,模型一个字一个字往外吐。Jev 这类系统把问题换了个问法:不让你自由生成,只在你允许的答案里选。对分类、审核、路由、工单分流这类场景,固定候选答案比自由生成更接近业务本身。
3.15 MB 放在今天的模型里很小。它不需要把知识压进几十亿参数。它从公司自己的记录里学判断。生成模型不会因此消失,但有一类任务本来就不需要自由生成。
帖子附了作者博客:Not all AI sounds human。Reddit 原帖在这里。
发布时间: 2026-11-15 14:05