Wink Pings

8层AI Agent架构图,模型只占一层

一张图把AI Agent拆成接口、规划、记忆、模型、工具、状态、可观测性与部署。真正拉开生产差距的,通常不是换了哪个模型。

一张被转发的AI Agent架构图,把生产可用的Agent拆成8层。原帖来自X用户Amir Ansari,图在下面。

AI Agent 8层架构图

8层分别是:接口与渠道,规划和编排,记忆与上下文,模型,工具与动作,状态与数据,可观测性、安全与评估,部署。原文给的链路是:用户目标进入接口,经过规划,带上记忆与上下文,调用LLM,再通过工具执行动作,落到状态与数据层,最后被可观测性、安全与评估包住,部署到生产环境。

拆开看,每层都不神秘。接口层有Chat UI、API、Slack;规划层负责任务拆解、工作流编排、Agent协调和决策;记忆层分短期、长期、向量库、检索、prompt caching;模型层列了Claude、GPT、Gemini、Llama,选型看任务、成本、延迟和可靠性;工具层接GitHub、浏览器、代码执行、SQL/数据库和API;状态层用PostgreSQL、Redis、对象存储、向量库;第7层做tracing、评估、guardrails、错误监控和性能追踪;部署层落到Docker、Kubernetes、AWS、Vercel和云平台。

图里具体工具名只是示例,不是标准答案。比如向量库同时出现在记忆层和状态层,实际项目里也常合并。LangGraph、CrewAI、Mastra这类工具出现在图中,容易让读者把框架和层混在一起。层是职责,工具是当前实现,别反过来用工具清单代替架构。

评论区有个细节。X用户ZJ•x610ck写道:“eight layers, none of them an eval harness. it will still report success on the device it never reached.” 但图中第7层其实写了Evaluations。这个错位很有意思:架构图列得越全,读者越容易跳过评估和安全,把它们当成上线前补的文档。真实情况是,Agent最容易出现工具调用成功、任务没完成的假成功。评估框架、测试集、trace回放,得和工具调用一起设计。

另一位X用户ConservativeMen Only说,状态和数据层才是头疼的开始。这个判断不花哨,但接近生产现场。会话状态、重试、幂等、缓存失效、数据权限,任何一项没处理,Agent就会在演示里很聪明,在线上很随机。

对普通用户,这张图解释了一件事:Agent不是聊天框里塞一个模型。对开发者,它提醒另一件事:模型选型只是第4层,前面有接口和规划,后面有工具、状态、评估和部署。架构图画完整不难,难的是让第7层真的拦住错误。

原文链接:https://x.com/AamirAnsar94694/status/2116897875745771878

发布时间: 2026-11-02 15:56