Agent开始追目标,验收标准先崩了
Harrison Chase 认为 agent 正从任务走向目标。任务有终点,目标没有。工具权限、后台提问、触发器、记忆和停止规则都变成产品问题。
Harrison Chase 在 X 上发了一篇短文,讨论 agent 从任务走向目标。任务示例:写这封邮件、起草博客、修这个 bug。目标示例:减少协调负担同时保住重要承诺、维护一个博客、让产品成功。这个划分有信息量。任务有终点,目标没有。底下两个变化更实际:指定动作变成指定结果;有界任务变成持续责任。原文链接:Harrison Chase 推文,文章链接:From tasks to goals。
任务和目标,差在两个词
在任务模式里,用户指定任务。到了目标模式,用户给方向,agent 自己拆任务、执行一部分、更新任务清单,再继续。它得会 brainstorm,也得会选任务。反复提同一批任务不行。产品上需要让用户看见 todo list,也要在提示里要求它提出不同任务。工具调用从可预期变不可预期。发邮件大概知道要用 Gmail 和日历;减少协调负担可能某刻要邮件、短信、搜索、浏览器,甚至你事先没想到的工具。工具权限控制因此变重要。
后台跑起来,问题才刚开始
任务在聊天里跑,用户天然在环里,信息不够可以追问。目标可能在后台跑,需要 Slack 或专用 UI 收问题。反馈也要设计。指标能自动追踪,但盲目优化指标不聪明,人的纠偏更重要。持续工作要触发器:heartbeat、cron、一次性提醒、事件流。还要能暂停、停止、忽略。每 30 分钟 ping 同一个问题,体验会很差。不做也是正确动作。记忆让反馈复利。拒绝一个博客选题,应影响未来选题,不只是一次草稿。X 网友 Justice U 补了一个细节:不要让“不要再提”和“下个月再提”都记成 rejected。
网友把难点说透了
有网友 Igor Lessio 说,goal 让 agent 决定何时完成,evals 在这里断掉。task 有 finish line,goal 没有。Nishant Modak 的担心类似:agent 会对着 proxy 指标宣布成功,所以更愿意定义 acceptance criteria 再迭代。Uri Lampert 提到预算:task 可以 budget,goal 可能让你醒来看到 3k 美元的工具账单,和一条 agent 走过的错误路径。Eduardo Aguirre 说监督方式变了。任务结束看输出,目标跑几小时,需要 checkpoint 让它说明做了什么、为什么。Biscuit 的总结很直接:goal-seeking agent 更需要 stop rule。更好的 prompt 排在后面。Mykyta Pavlenko 提到“让产品成功”这种目标,反馈几个月后才出现,很难给。Fin Jones 提醒目标最后仍会落到任务,有些任务在线下,要能交给一个人并检查真的完成。Jason Jin 则卡在定义上:如果一个任务就是完成这个目标,任务和目标怎么分。
自主度需要滑杆
Timothy Callaghan 想要 agent harness 里加一个 autonomy slider。agent harness 可以理解成运行 agent 的外壳。模型和思考强度都能选,独立工作程度也应该能选。五档,从“每一步都问我”到“这是目标,你自己干”。他喜欢全自主下面一档:朝目标走,但在约定 checkpoint 停。视频在下面。
验收要设计进过程
Harrison 的结论是,给 agent 目标等于委派决策:做什么、何时做。用户角色变成设定方向、定义边界、review 进度。原话可以看文章。更实际的问题是,任务世界的验收在终点,目标世界的验收要设计进过程。停止规则、工具权限、反馈机制、记忆一起决定 agent 能不能用。目标式 agent 的第一道产品题,可能是让它知道什么时候什么都不做。预算表有时比 prompt 更早发现目标跑偏。
发布时间: 2026-11-17 13:31