Wink Pings

始终在线的 Agent,大部分时间在睡觉

Claude 团队发布了一份可以照着搭的架构说明。收件箱、计时器、记忆、权限、发件箱五件套单独看都不新,真正值钱的是那句判断:始终在线是一种使用体验,不是让模型挂在线上烧 token。

Claude 团队在官网挂了一份文档,标题叫 Building always-on agents,作者是 Anthropic 应用 AI 团队的 William Hu,收在 Claude Platform 最佳实践指南里。它回答的问题很具体:怎么在自己的产品里做一个始终在线的 Agent。

先说整份文档最容易被漏掉的一句:始终在线是一种使用体验。模型不需要一直挂在线上消耗 token。

这句话背后有个挺反直觉的事实。这类 Agent 绝大部分时间在睡觉。有事件来了,或者到点了,它醒一次,收事件、干活、把状态存下来,接着睡。单次运行很短,循环一直转。底层核心循环和普通 Agent 一样,承接的还是 Anthropic 之前那篇 Building effective agents。区别全在外围:谁决定它什么时候醒,哪些状态要跨运行保留,结果怎么交到用户手上。

image

下面按部件拆。收件箱、计时器、记忆、权限、发件箱,单独看都不新,很多团队早用队列加定时任务拼过类似的东西。有价值的地方是职责划得清楚。

收件箱:所有事件先排队,再唤醒

多数 Agent 只在用户发消息时运行。始终在线的还要被 webhook、定时任务、后台作业触发。如果每个来源都直接调 Agent,两个同时到达的事件可能启动两次互相冲突的运行,进程一崩事件就丢了。

文档的做法:所有来源先把事件写进收件箱,再由一个 worker 领取。最简单的版本三部分,一张持久化的事件表,一个负责写入的 HTTP 端点,一个从表里读事件的 worker。每条事件记状态,按来源那边的唯一标识去重。建议先给每个用户开一个收件箱,需要更高并行度再拆。

几条实践建议值得抄下来:

  • 处理端点要尽快确认收到,有些 webhook 把慢响应当失败。提示注入这类检查放到运行过程中做。
  • 收件箱是唯一可信的事件来源,worker 醒来先从中拉最新事件,中途挂了,新 worker 能重试同一条。
  • 同一个收件箱同时只放一个活跃 worker。
  • worker 应该把待处理事件打包,用户连发几条消息合并成一次运行,只回一次。

有位做 BD 的读者在评论里说,她最需要搞清的是三件事:什么时候提醒我,什么时候等我确认,什么时候才可以对外发。能自己醒来很方便,但替我开口之前得有边界。这段话把收件箱和权限两件事一起说透了。

计时器:让 Agent 显得主动

收件箱加计时器,Agent 才显得主动。计时器分两类。一类是跟进,Agent 给自己定的截止时间,到点去看看对方回没回。一类是日程,固定节奏重复,比如每日简报。

计时器单独存,另一张表,因为收件箱里只该放已经能处理的事件。到期后调度器不直接启动运行,而是往收件箱投一条事件,走同一套流程。调度器可以自己写,也可以用现成的持久化执行引擎。

记忆:只存下次查不到的东西

始终在线的 Agent 要经历很多次互不相连的运行,前后连续性靠记忆维持。记忆也要单独存。Claude Code 的自动记忆和 Messages API 的 memory tool 都用文件目录实现,放到这类 Agent 上,目录对应到数据库或对象存储,worker 停掉,记忆还在。

要保存的四类内容:

  1. 用户对 Agent 行为的指令,单独成文,每次运行开始加载。用户不一定在场,指令必须在每次运行中都生效。
  2. 关于用户的笔记,角色、偏好、纠正过的地方。可以从一个文件开始,内容多了再拆,每次先加载索引,需要细节再读具体文件。
  3. 已经告诉过用户的内容,避免重复。
  4. 进行中任务的进度,每项任务一个文件,写明做完了什么、还剩什么。

一条经验法则:记忆里只放 Agent 以后查不到的东西。信息已经存在问题跟踪系统里的,只存一个链接。

还有个叫 dreaming 的整理过程,回看过去的会话,清理过时条目,找出跨多次运行才看得出的规律。文档里只是点到,具体做法在另一篇记忆配套文章里。

每次运行开始都要加载系统提示、工具定义和记忆文件,这笔开销每次都有,所以要精简,配合提示缓存控制成本。会话太长可以压缩较早的消息,也可以新开会话。两种办法都会丢细节,必须留的内容要在运行中先写进记忆。

权限:上线前真正的门槛

权限是这类 Agent 风险最大的部分。一次运行握着用户的访问权限,而它本来就在没人看着的时候工作。

文档强调了三种做法。第一是凭证保管,在 Agent 运行环境之外放一个代理,由代理把凭证注入要发出的请求,Agent 自己发出的请求里不带真实凭证。

第二是 auto mode。Claude Code 用分类器审查风险较高的操作,拦下它认为危险的部分,让模型换一条更稳妥的路,最重要的决定仍然交给人。

第三是延后执行的工具调用。用 hook 先把某次调用搁下,当前运行结束,会话停在这次调用的中途并保存。请求可以通过 MCP Apps 做成交互卡片给用户,用户的回答作为新事件回到收件箱,再启动一次运行,恢复保存的会话。等待期间 worker 照常处理其他事件,Agent 不会被卡住。

有网友说,这比让整个 Agent 挂起、干等用户点击实用得多。这个判断成立。

发件箱:先少说话

普通 Agent 会把推理、工具调用和答案一路流式推给用户。始终在线的 Agent 大部分工作在后台完成,用户看到的是结果和少量细节。

一次运行有三种结局:往发件箱发一条消息,判断没什么要发,或者用延后调用请求许可。多数情况有一个直接给用户发消息的工具就够了。只有需要控制发送节奏,或者希望从发送失败中恢复,才需要正式的发件箱。

发件箱是一张存放待发消息的表,另有一个分发进程,负责读待发消息、决定发哪些、再交给用户。

发送频率要单独调。发太多打扰用户,发太少漏掉该知道的事。文档建议用评测找平衡,更好的做法是先让 Agent 少说话,再一点点争取用户的注意力。

一位叫 ikook 的读者说得挺准:始终在线很容易变成始终打扰。该不该叫人,往往比跑得勤不勤更能决定这东西能不能长期用。

成本这块

文档把现在值得做归功于模型进步。一是判断力更好,更清楚什么时候该停下来确认;二是智能越来越便宜。举的例子是在一项长周期编程基准上,Opus 5.5 每完成一个任务的成本比 Opus 5 低 78%,典型工作负载上低 40%,两个数字都是 Anthropic 自己报告的。配套的成本文档写明,这项基准是 SWE-bench Pro 的一个子集,两代模型的解题比例大致相当,子集成绩不能和公开榜单直接比较。

如果只先落地一块

meng shao 的读后建议是先做收件箱。以它为唯一可信来源、同一时间只放一个活跃 worker、把连发的消息合并成一次运行,这几条决定系统能不能扛住 webhook 重试和并发事件。运行中途来了新事件,是放到下一轮、并入当前这轮,还是中断重来,文档把这个选择留给了开发者。它会直接影响产品给人的感觉,得提前想清楚。

对照着看还有一份材料,SpaceXAI 的 Lee Robinson 在斯坦福 CS146S 的讲座,讲 always-on proactive agents 的架构、harness 和上下文工程。两份对着读,更容易分清哪些是架构必需,哪些只是文档写得漂亮。

收件箱、计时器、记忆、权限、发件箱,单独看都不新。但真有团队一上线就把推送开到最大,用户三天后卸载。先少说话,这句话对产品经理可能比架构图更有用。

发布时间: 2026-11-15 18:26