Wink Pings

Agent 24 小时在线,模型大部分时间在睡觉

Anthropic 给了一份常驻 Agent 架构说明:收件箱、计时器、记忆、权限、发件箱各管一段。最该先搭的可能是收件箱,最容易翻车的是记忆。

Anthropic 应用 AI 团队 William Hu 在 Claude 官网发了一篇 building always-on agents,收在 Claude Platform 最佳实践里。原推见 meng shao 的分享,长文 也给了中文拆解。文章回答一个问题:产品里怎么做始终在线的 Agent。

全文把这类 Agent 定义成有状态、会主动做事:多次会话之间要管理上下文,没人盯着时也能自己行动。底层核心循环没变,变的是外围架构,谁决定它什么时候醒来、哪些状态跨运行保留、结果怎么交给用户。

建议先把一个误会拆掉。始终在线描述使用体验。Agent 大部分时间休眠,隔一段时间被事件唤醒干活,休眠期间不消耗 token。每次工作叫 run,运行发生在 session 里,会话就是消息和工具调用的记录。结束后重新休眠,循环继续。有网友说之前怕断了接不上,结果开着不关,额度掉得很快,这段话正好对上。

Anthropic 把现在值得做的原因归到模型进步:判断力更好,更清楚什么时候停下来确认;智能更便宜,长周期任务受益。文章给了一个自报数据,在长周期编程基准 SWE-bench Pro 的一个子集上,Opus 5.5 每完成一个任务的成本比 Opus 5 低 78%,典型工作负载低 40%。文章也注明,两代模型解题比例大致相当,子集成绩不能和公开榜单直接比较。

架构拆成五块。

  • 收件箱:所有来源先进队列,再唤醒 Agent。webhook、定时任务、后台作业不直接调用 Agent,先写进持久化事件列表,通常是一张数据库表;一个 HTTP 端点负责写入,一个 worker 从表里取事件。收件箱记录状态,用来源唯一标识去重。文章建议先按用户各开一个收件箱,同一收件箱同一时间只放一个活跃 worker。用户连发几条消息,worker 合并成一次运行,只回复一次。回复类事件回到原会话,其他事件新开会话。收件箱是唯一可信来源,worker 中途挂掉,新 worker 能重试同一条事件。

  • 计时器:让 Agent 主动跟进。跟进类是自己给自己定的截止时间,日程类按固定节奏重复。计时器单独持久化,调度器定时轮询到期项目,跟进类标记完成,日程类改到下一次,然后往收件箱加事件并唤醒 worker。

  • 记忆:只存下次查不到的东西。能链接到外部系统的,存链接。要保存的内容分成四类:用户对 Agent 行为的指令,每次运行开始加载;关于用户的笔记,角色、偏好、纠正过的地方;已经告诉过用户的内容,避免重复;进行中任务的进度,每项任务一个文件,写清做完什么、还剩什么。目录可以放数据库或对象存储。文章还提到 dreaming,回看过去会话,清理过时条目,找跨运行规律。初始上下文每次都有成本,要精简,用提示缓存;会话太长可以压缩或新开,必须保留的内容先写进记忆。有网友自己搭过一版,卡在记忆:每轮重挑历史,token 和延迟一起爆,后来只留最近三轮对话加一份进度文件,反而稳了。

  • 权限:无人值守时风险最高。凭证放在 Agent 运行环境之外,由代理注入请求,Agent 自己发出的请求不带真实凭证。auto mode 用分类器审查高风险操作,拦下危险部分,让模型换稳妥路径,关键决定仍要人看。延后执行的工具调用用 hook 把某次调用搁下,当前运行结束,会话停在调用中途并保存;用户回答作为新事件回收件箱,再启动一次运行恢复会话,等待期间 worker 照常处理其他事件。

  • 发件箱:交出结果,不推送全过程。一次运行有三种结局:往发件箱发消息;判断不需要发;用延后调用请求许可或补充信息。发件箱是一张待发消息表,分发进程读取后决定发哪些。发送频率要单独调,文章建议先让 Agent 少说话,再一点点争取注意力。有网友做 BD,关心的边界很具体:什么时候提醒我,什么时候等我确认,什么时候才可以对外发。

五块连起来就是一个循环。事件从收件箱开始,worker 领取,唤醒 Agent,读记忆,在权限内行动,写回记忆,往发件箱写消息。运行可以设一个计时器,过一阵把自己叫醒;用户回复又变成新事件。每次运行很短,循环可以一直转。

这些部件单看都不新,队列加定时任务早有人拼过。文章的价值在职责划分,并把常驻体验和常驻进程分开。做 Agent 的团队先落地收件箱,webhook 重试和并发事件先压在这里。权限要一开始就按默认设计,凭证代理、auto mode、延后调用都不是上线前补的装饰。发件箱是产品设计,很多团队一上线就推送得很频繁,正好反过来。

如果只做到点提醒自己的小任务,先搭收件箱和计时器能跑通最小循环,记忆、权限、发件箱随后补。一旦无人值守替你对外说话,权限和发件箱的边界得先想清楚。这套架构看着像给 Agent 排班:大部分时间睡觉,被叫醒就干活,干完把结果放进发件箱。

发布时间: 2026-11-14 18:27