Wink Pings

Google 新 API 不写回答只做判断,一次能问 1000 个问题

Gemini Decisions API 把大模型从写小作文拉回判断题:三种题型、置信度、批量问题、输出不收钱。它适合路由、分类和质检,但缓存和区域支持还有坑。

Google 在 Gemini API 里上线了 Decisions API,配套模型叫 Gemini Decision 1。它不生成文字,只答题:给一份输入和一组问题,直接返回每道题的答案,外加 0 到 1 的置信度。

做 AI 应用时,很多调用其实只要一个判断:这条客服消息转给哪个组,这个问题交给便宜模型还是推理模型,这张图违不违规。以前只能让大模型写一段话,再从里面解析答案,慢,容易解析失败,还要为输出 Token 付钱。Decisions API 把这件事改成选择题。

Google for Developers 公告图

它解决什么问题

Decisions API 只有三种题型:是非题,返回条件为是的概率;单选题,2 到 255 个选项,返回选中项和每个选项的概率;打分题,按你写的档位打分。每个答案带 0 到 1 的置信度。官方说这些概率是校准过的,意思是模型说 90% 的时候,大约十次里真对九次,所以置信度能直接拿来当门槛。比如高于 0.7 自动执行,低于就转人工。

不过有网友提醒,二元题的 confidence 是 max(p, 1-p)。它表示模型对这个判断有多确定,并不等于 Yes 的概率。p=0.08 时 confidence 也有 0.92,只是更确定地判断 No。代码要先看答案方向,再拿置信度决定是否复核,不能把大于 0.7 直接当成条件成立。

Gemini 茶水间台面示例

Google 博客给了一个例子:上传一张茶水间台面的照片,同时问三个问题。有没有洒了的液体,答 0.95;怎么处理,选抹布擦,置信度 0.98;脏乱程度按 0 到 2 打分,给 1.19,置信度 0.77。

多快、多便宜

一次请求的输入最多 256K Token,文字、JSON、图片、音频、视频、PDF 可以混着放,比如一段客服通话录音加账户信息。同一份输入上最多挂 1000 个问题,彼此互不影响。输入只计一次费,每多一个问题只多算这道题本身的字数。

Google 称输入在 1.6 万 Token 以内时,端到端延迟 150 到 250 毫秒,问 1 个和问 100 个问题耗时差不多;同一批评测下,比用 Gemini 3.5 Flash-Lite 生成答案便宜近 5 倍。Gemini Notebook 已经用它给每个提问挑模型,日常问题延迟最多降了 40%。

Gemini Decisions API 架构图

Google for Developers 还放了一个找动物园管理员的演示:模型一次看棋盘,同时检查 16 个格子,快速指出正确位置。

谁能用,限制在哪

在 Google AI Studio 拿个 API Key 就能调,模型名 gemini-decision-1,走 v1beta 接口。有免费层,每分钟 200 次、每天 1 万次,免费层的数据会被 Google 用来改进产品,付费层不会。OpenRouter、LangChain、Vercel 等正在接入,Google Cloud 上的 Gemini 要稍后才支持。

不支持上下文缓存和 Batch API,同一份大文档反复问,每次都按全价算输入;不能直接传 YouTube 链接;问题本身只能写文字。有网友补充,后面的判断如果依赖前面的结果,还得再发一次请求。

和 OpenAI 的同名产品比

OpenAI 早一个月做了同样的东西,名字也叫 Decisions API:10 月 6 日出测试版,10 月 22 日正式开放,用 GPT-6 Luna,同样每百万输入 Token 0.1 美元、输出不收费。区别是 OpenAI 一次最多 400 个问题,只收文字、图片和 JSON,不收音视频和 PDF;但它支持缓存,重复输入能打折,还能直接塞进对话历史和工具调用记录。

创业公司 TypeSafe 的 Jev 1.14 也专做这类判断,在 OpenRouter 上每百万输入 Token 0.042 美元,只收文字和图片。

Gemini Decision 1 基准测试

Google 博客附的对比表里,Gemini Decision 1 在 9 项测试中 7 项第一,其中音频、视频两项只有它和 Flash-Lite 参测,校准误差 0.025,GPT-6 Luna 是 0.072;网页操作和该不该调用工具两项输给了 Jev 1.14。7 项共同评测的总花费,Jev 最低,0.68 美元,Gemini Decision 1 是 0.88 美元,GPT-6 Luna 0.93 美元。以上跑分都是 Google 自己测的。

如果业务是批量打标、意图路由、质检或者安全判断,这个接口值得先试。上线前最好拿自家几百条人工标注样本跑一遍,看置信度门槛实际准不准;同一份长文档反复提问的场景,也要先算算输入费用。

Google 博客:https://blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/

官方文档:https://aistudio.google.com/docs/decisions-api

OpenAI Decisions API 文档:https://developers.openai.com/api/docs/guides/decisions

发布时间: 2026-11-12 11:29