别再给你的智能体工具了，给它一个沙盒吧 - Mikyo King, Arize AI

원제 · Stop Giving Your Agent Tools. Give It a Sandbox - Mikyo King, Arize AI

14:382분 읽기AI Engineer2026. 10. 27.컴퓨터/소프트웨어 · AI/미래기술

핵심 요약

通过为智能体配备支持代码模式的沙箱环境，可以大幅减少代币消耗和运行成本，同时提升复杂任务的处理能力。

하이라이트

  • 代码模式允许智能体在单轮对话中组合并执行任意数量的工具，仅将必要内容返回上下文窗口

  • 引入代码模式后，代币用量减少了43%，成本下降了31%

  • Arise Phoenix开源平台通过Bash、Python沙箱以及SQL查询功能，为智能体解锁了强大的功能

  • 通过Harbor强化学习框架对智能体进行沙箱测试，能够有效跟踪Pass@K指标并评估任务执行情况

타임라인

  1. 代码模式的背景与传统工具调用的局限

    随着软件开发历史的发展，编码智能体能够动态构建软件，从而模糊了工程师与非工程师的界限。传统的智能体在面对大量工具调用时会引发上下文腐化和多轮对话臃肿，而代码模式能够有效缓解这些问题。

    • 传统的工具调用方法会导致上下文窗口膨胀，增加延迟、成本和对话轮次
    • 代码模式作为替代架构，赋予智能体编写代码并在编程环境中执行工具的能力

  2. 代码模式的工作原理与优势

    代码模式允许智能体按顺序、并行或添加条件判断来执行工具。它不仅能在一个单轮对话中调用多个工具，还能创造出自我创建工具的涌现行为，避免在上下文中泄露敏感信息。

    • 代码模式实现了工具的渐进式披露和高度可组合性
    • 模型能够动态修剪输出并保持极高的令牌效率

  3. Arise Phoenix平台中的代码模式实践

    平台通过结合Linux原语和REST CRUD端点，解锁了处理追踪信息和数据集的强大功能。同时，Text-to-SQL功能让大语言模型能够高效执行复杂的聚合查询，精确定位特定的LLM跨度。

    • Arise Phoenix内部集成了Bash、Python沙箱以及编写SQL查询的能力
    • 通过将编程范式绑定到用户界面和Web Worker中，实现了类似计算机使用的交互能力

  4. 代码模式面临的挑战与评估测试

    尽管存在沙箱开销、持久性及双重沙箱等问题，但通过Harbor强化学习框架对智能体进行排列组合测试，能够有效捕获运行轨迹与评估结果。这为持续优化评估指标、提升智能体性能提供了绝佳环境。

    • 代码模式带来了资源、网络、密钥管理、权限控制及运营复杂度等挑战
    • 使用Harbor框架进行沙箱测试表明，代码模式成功将代币用量减少了43%，成本降低了31%

설명

Classic tool-calling agents fill their context with tool catalogs and raw outputs. Code mode gives the agent a sandbox and lets it search for and compose tools in code, returning only what it needs. Mikyo King, head of open source at Arize AI, explains why code mode works, how Arize built it into Phoenix (Bash, a Python sandbox, SQL and even UI control), its hidden costs (secrets, permissions, durability, double sandboxing), and how Harbor evals showed 43% fewer tokens and 31% lower cost. Chapters: 0:00 Intro 0:36 The line between engineers and everyone else is dissolving 1:52 The classic tool-calling agent 3:03 What is code mode? 4:37 Why code mode works 6:11 How Phoenix uses code mode 8:19 The hidden costs of code mode 10:42 Open problems 11:44 Evaluating code mode with Harbor 12:55 Results: 43% fewer tokens, 31% lower cost 13:59 Takeaways Mikyo King https://arize.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!

이 영상에 대해 글쓰기