如何判断 AI 代理何时能够独立无人监督工作 — Evan Kormos，Coinbase

하이라이트

• 智能体作为一种横跨人、流程和技术的运营模型，自身执行部分流程、使用技术并由技术构成。

• 有向无环图（DAG）用于表示单向推进且不陷入自身循环的工作流、步骤及依赖关系。

• 有向循环图（DCG）能够对节点内部包含反馈和迭代的循环流程状态进行管理。

• 智能体具有概率性特征，相同的请求可能会产生多个可接受的答案，因此传统的精确输出比较无法满足验证需求。

• 置信机制的建立需要通过构建具有代表性的数据集、重复运行评估以及结合追踪数据（traces）来进行统计分析。

• 企业在引入智能体时应遵循的策略是外在保持确定性，内在保持自适应。

• 智能体自动化成熟度的演进分为三个阶段：初期由人工全面监督验证，中间阶段达到置信度阈值后转为抽样检查，最后让人类主要处理异常情况并持续完善数据集。

타임라인

1. 00:00:00 - 00:03:12

   策略、系统与运营模型

   演讲者结合20年软件交付和企业金融服务经验，将策略定义为最初的系统提示词或机构意图。组织在明确策略边界的同时，需要区分代码编写的构建状态与系统运行时的状态。智能体在企业模型中处于人、流程和技术的交汇点，其核心应用场景在于与流程相遇的地方，即确定赋予它们什么工作、设定什么边界以及如何建立对输出结果的信任。

   • 策略为组织内部的工作设定规则，涉及风险和合规方面，用“必须”、“可以”和“应该”等主张性语言编写。
   • 构建状态与运行状态属于两个不同的时间点，策略在不断演进的同时系统也在持续运行。
   • 智能体是一种横跨人、流程和技术的运营模型，与人共事、自己执行部分流程并使用技术。
2. 00:03:12 - 00:08:38

   工作流的图论表示：DAG与DCG

   企业工作流可以通过绘制有向无环图（DAG）来明确各个步骤的依赖关系，例如商业贷款、代币上线或软件交付。节点内部如果包含反馈和迭代，则需要通过有向循环图（DCG）来进行状态管理。随着智能体加速了诸如代码审查等环节，设计和安全扫描等周边环节也需要更快跟进，这凸显了流程运营可见性和监控异常流程的极端重要性。

   • 有向无环图（DAG）用 Python 代码和依赖关系表示单向推进的业务流程。
   • 有向循环图（DCG）用于管理节点内部需要反复迭代和接收反馈的代码审查流程。
   • 在引入智能体后，工作流中的数据量会发生转移，运营可见性比编写工具本身更加重要。
3. 00:08:38 - 00:13:12

   输入输出可变性与质量评估机制

   高质量的上下文输入能够改善输出结果，而将DAG状态注入智能体可以让其明确自身在大局中的位置。与传统软件依靠精确输出比较不同，概率性的智能体需要更科学的评估方法。只有定义什么是优秀的标准，并通过统计分析大量输出结果与运行时追踪日志，才能建立起真正可靠的置信机制。

   • AI工程面临的一个主要挑战是输入和输出的可变性，高质量的输入会以更低的计算成本带来更好的输出。
   • 传统软件依靠单元测试等系统化机制来确保修改代码时不破坏其他功能。
   • 智能体具有概率性特征，必须通过构建代表性数据集、重复运行评估和结合追踪数据（traces）来建立置信机制。
4. 00:13:12 - 01:17:23

   智能体自动化与成熟度演进

   在贷款审核等包含财务、风险审查和决策的复杂流程中，决策环节通常仍需人工主导，而其他部分可以逐步引入智能体辅助。通过与领域专家共同定义“好”的标准，组织能够稳步提升置信度。最终的秘诀在于外在保持确定性、内在保持自适应，通过团队协作和MLOps加速整个运营模式的发展。

   • 在决定某个DAG节点是否自动化时，需要评估是否容易根据政策检查、能否在有界的循环中运行以及能否回退给人工处理。
   • 智能体自动化的启用过程从第一天的全员监督开始，随着置信度达标过渡到抽样检查。
   • 成熟度提升后的最终阶段是让人类主要处理流程异常，同时继续参与完善数据集和确保输出质量。