我们却信任那些天天出故障的AI智能体 - Shy Ruparel,Temporal

Original · We Trust AI Agents That Break Every Day - Shy Ruparel, Temporal

21:322 min readAI Engineer10/29/2026Computing/Software · Management · Internet Technology

Key Takeaway

尽管80%的用户日常使用AI智能体且多数人对其表示信任,但超过四成的系统频繁崩溃,而持久化执行平台能够通过保存状态和事件历史解决生产环境中的可靠性与状态追踪难题。

Highlights

  • 毕马威的调查显示,2025年企业生产力增长将达到三万亿美元,其中94%的金融科技公司将AI视为业务运营的核心。

  • 在针对554名活跃AI智能体工程师的调查中,48.4%的受访者拥有11年以上的行业工作经验。

  • 日常AI智能体的使用比例从2025年的47.3%上升至80.8%,但仅有49.1%的团队在生产环境中真正运行智能体。

  • 调查显示85.5%的人信任智能体输出,但同时有41.1%的系统每天或更频繁地遇到问题。

  • 跨服务追踪状态(35.7%)和隔离与调试问题(30.9%)是限制团队生产力的前两大阻碍。

  • OpenAI的Codex以及Replit的智能体均在Temporal平台上运行,实现可靠的持久化执行。

Timeline

  1. AI智能体的普及与四大差距概述

    金融等行业依赖跨越多天、多个系统并涉及真实资金的长期运行工作流,这使得将AI智能体引入其中面临极高的可靠性要求。通过对554名专业工程师的调查,报告揭示了行业在迈向生产环境时所遭遇的现实鸿沟。

    • 2025年企业生产力因AI智能体实现三万亿美元增长,金融科技领域引领潮流。
    • 554名受访工程师中近一半拥有超过11年的行业工作经验。
    • 演讲重点探讨AI智能体在日常使用、生产环境部署、信任度与可靠性之间的四大主要差距。
  2. 使用量、信任度与生产环境的现实差距

    虽然日常使用率翻倍,但从实验走向生产环境的比例滞后。高信任度与高崩溃率同时并存,且问题发生频率与智能体数量无关,这表明开发团队必须将系统失败纳入常规规划之中。

    • 日常智能体使用率达到80.8%,但仅有49.1%的团队将其发布到生产环境中。
    • 85.5%的人在一定程度上信任智能体输出,但41.1%的系统每天或更频繁地遭遇问题。
    • 自称为成功的团队反而更有可能连续遇到问题,证明仅靠技巧无法消除失败。
  3. 企业部署速度与可靠性鸿沟

    大公司与初创公司在部署速度上存在巨大差异,受监管的银行业和保险公司需要大量的审批与审计跟踪。状态追踪和调试困难导致部分团队甚至要求助YouTube,凸显了现有可观测性的不足。

    • 超过五成的初创团队能在数小时内将AI原型转化为生产就绪状态。
    • 员工超过5000人的大型企业往往需要花费五个月时间来确保可审计性和信任度。
    • 跨服务追踪状态和调试问题是限制团队生产力的头号阻碍。
  4. 持久化执行与支付工作流演示

    传统的进程内存崩溃会导致预留资金与状态丢失,而持久化执行确保代码运行到完成。即使工作线程崩溃,审批信号依然会被捕获,新工作线程可以从上一个成功点无缝恢复,避免了重复执行大语言模型调用所带来的高昂成本。

    • 通过九个阶段的支付工作流演示了涉及欺诈调查与人工批准的复杂流程。
    • 人为终止工作进程后,系统通过持久化执行保存状态和事件历史,无需重复消耗Token。
    • Temporal平台成功解决了状态、调试、成本、重试、批准和崩溃恢复等七大工程阻碍。
  5. 生产应用与总结

    实际生产案例证明了持久化执行架构在处理灾难性错误时的有效性。演讲最后总结了开发状态报告的核心数据,并邀请参会者前往展位进行现场交流。

    • OpenAI的Codex和Replit智能体都在Temporal平台上运行。
    • 糟糕的模型输出被视为普通的活动失败,并由平台自动触发重试机制。
    • 可靠性与可观测性在事件历史记录中合二为一,消除了传统方案中的偏差。

Description

Temporal's State of Development survey found that 80.8% of engineers use agents daily, but only 49.1% run them in production. Developer advocate Shy Ruparel walks through the four gaps behind that number (usage vs. production, trust vs. reality, prototype vs. enterprise, seeing vs. recovering), then demos a $2,500 payout workflow with a local model that survives having its workers killed mid-flight, without losing state, repeating tool calls or re-spending tokens. Chapters: 0:00 Intro 0:34 Finance runs on long-running workflows 2:05 The State of Development survey 3:16 Gap 1: Usage vs. production 4:33 Gap 2: Trust vs. reality 7:18 Gap 3: Prototype vs. enterprise 8:55 Gap 4: Seeing vs. recovering 10:53 Demo: a payout that survives a crash 13:06 Durable execution explained 18:12 What the demo solved 20:10 Who runs this in production 20:50 Wrap-up Shy Ruparel https://temporal.io Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!

Write about this video