TuBrief
구독 채널
비디오
커뮤니티

面向 Claude 4 时代的智能体重构:摒弃复杂分片,用代码实现 3-Agent 循环

TuBrief 편집팀
2026년 3월 31일
0
Computing/Software

원본 영상을 바탕으로 AI의 도움을 받아 작성했습니다. 원본 영상이 기준입니다.

中文한국어EspañolEnglishहिन्दीDeutschFrançaisPortuguêsРусскийBahasa Indonesia日本語العربية

관련 영상

Anthropic 刚让你的 AI 代理框架变得一文不值14:02

Anthropic 刚让你的 AI 代理框架变得一文不值

AI LABS

커뮤니티의 다른 글

사내 시스템에 llm api 붙일 때 마주하는 현실적인 한계와 대응법

2026년 9월 13일

레거시 백엔드에 GPT-6 Astra 붙일 때 예산 승인과 보안 통과를 먼저 끝내는 법이 있습니다

2026년 9월 13일

에이전트끼리 대화하다 6천만 원 청구서가 나오는 이유

2026년 9월 13일

사내 RAG 벡터 검색에 Okta 권한 필터를 직접 거는 방법

2026년 9월 13일

브라우저 에이전트에게 내 구글 계정을 통째로 넘기면 안 되는 이유

2026년 9월 12일

Apple Won the AI Race

2026년 9월 12일

댓글 (0)

Log in to leave a comment

아직 작성된 글이 없습니다

© 2026 . All rights reserved.

TuBrief
구독 채널
비디오
커뮤니티
로그인

面向 Claude 4 时代的智能体重构:摒弃复杂分片,用代码实现 3-Agent 循环

从遗留分片到 3-Agent 循环的数据迁移策略

早期 LangChain 或 AutoGPT 推崇的微型分片(Micro-sharding)已经失败了。将步骤拆解为数十个微小节点,逻辑链条看似精妙,实则在每次调用时都会导致上下文断裂,仅增加了非确定性。当使用像 Claude 3.5 或即将推出的 4 模型这样推理能力飞跃提升的 LLM 时,必须转变策略。不要再纠结于处理碎片化的节点,而应将其整合为由 Planner 控制的集中式状态管理结构。

为了实现成功的架构转型,首先请将原有的微型任务封装在单个类的方法中,作为工具箱(Tool Box)。接着定义所有智能体共同引用的单一 State 对象。其中必须包含 plan(分步计划)、history(工具执行日志)和 artifacts(生成数据)字段。

利用 LangGraph 的 Reducer 功能,使每个智能体在完成任务时更新此共享状态。通过物理手段阻断上下文断裂,可以消除重复 Token 的传输。实际上,转向该结构的团队已立即节省了 30% 以上的 API 成本。

为 Evaluator 实现定量评分表代码

智能体输出结果“看起来不错”这种主观判断,在生产环境中无异于定时炸弹。必须引入 LLM-as-a-Judge 模式,并从代码层面强制执行。Evaluator 智能体应将 Generator 的产出拆解为准确性、一致性、可读性和有效性这 4 个指标,并将其转化为数字。

使用 Pydantic 库强制评估结果符合特定的 JSON Schema:

  • 声明 RubricScore 类,将各指标设定为 1~5 之间的整数字段。
  • 在 Prompt 中明确各分值段的具体满足条件(例如:有效性 5 分需达成时间复杂度 O(n)O(n)O(n) 以下)。
  • 若平均分低于 4.0 分,则触发 Merge Block 在 CI/CD 流水中自动停止部署并发送返工信号。

构建此类自动化验证系统后,原本需要人工对比耗时 5 小时的验证工作可缩短至 10 分钟以内。机械化的评分虽然冷酷,但能显著提高系统的可预测性。

利用 Anthropic Prompt Caching 进行成本优化

一旦智能体循环开始运行,Token 会以惊人的速度堆积。每次都重新发送系统指令和工具定义是在挥霍资金。Claude 的 Prompt Caching 对缓存 Token 仅收取常规费用的 10% 左右。要享受此优惠,必须采用前缀匹配策略,将 Prompt 结构按从静态到动态的顺序(Tools → System → Messages)排列:

  • 将不变量指令和工具定义置于最顶层,并设置 cache_control 断点。
  • 在用户消息中使用 <system-reminder> 标签插入变量信息。只有这样才能保证顶部前缀的缓存不被破坏。
  • 在对话变长的每 20 个 Block 溯回窗口处,战略性地部署额外的断点。

合理设计缓存策略最高可削减 90% 的 API 调用成本。响应速度也会有明显的提升。这是兼顾金钱与时间的唯一途径。

防止死循环的断路器设计

如果 Generator 和 Evaluator 各执己见无法达成共识,智能体就会陷入死锁。这不仅是简单的错误,更是导致成本失控的灾难。为了防止这种情况,需要一个监控任务次数和响应相似度的多层断路器(Circuit Breaker)。特别是当当前响应与前一次响应的余弦相似度达到 0.95 以上时,这是智能体在愚蠢地重复同样的话并陷入循环的明确信号。

  1. 在主循环中加入计数器,限制单次会话最大次数(Max-Turn Limit)为 15 次。
  2. 设置每会话最大允许成本(Budget Cap),并在 API 网关进行实时监控。
  3. 一旦断路器触发,立即将执行追踪摘要发送至 Slack 并请求人工干预(Human-in-the-loop)。

下放全权给智能体并非勇敢而是不负责任。没有安全装置的智能体系统不如不运行。

智能体团队专用可观测性仪表板

三个智能体混作一团的工作过程是一个黑盒。如果不知道瓶颈在哪里,就不可能进行改进。请接入遵循 OpenTelemetry 标准的追踪系统,使智能体间的消息流可视化。通过实现基于 Redis 的检查点(Checkpointing),即使系统崩溃,也无需从头开始,而是从最后一个成功点继续。

从 API 响应头中提取 cache_read_input_tokens 值并绘制在仪表板上。如果缓存命中率低,说明 Prompt 结构存在问题。此外,将循环收敛的速度指标化管理,可以用数字证明 Prompt Engineering 的成果。在 PostgreSQL 中存储 Session ID 和 Artifact 版本,可以精确回溯智能体团队在过去哪个点陷入过困境。不被记录的智能体永远不会变得聪明。