00:00:00(欢快的音乐)各位好,非常感谢大家今天的到来。
00:00:12我是 Malavika,正如你们所听到的,我是 Vercel 的产品经理。
00:00:15希望你们在大会上度过了美好的一天。
00:00:18我必须说,我被你们用我们的开源工具和基础设施原语开发的所有项目所震撼。
00:00:24很高兴能第一次亲自见到你们中的许多人,也见到了一些新面孔和熟悉的面孔。
00:00:31所以今天我们深入了解了 AI Cloud。
00:00:38到现在为止,你们可能已经听够了关于 AI Cloud 的讨论。
00:00:43你们可能在想,我能不能就先去快乐时光喝一杯啊?
00:00:47但作为提醒,以防万一信息还没有完全传达,Vercel 是一个统一的平台,用于构建、部署和运行智能应用程序及其背后的代理。
00:01:02Vercel 的使命一直是抽象化基础设施管理的复杂性,让你能够专注于构建令人惊艳的用户体验。
00:01:14当我们思考我们在整个软件开发生命周期中抽象化复杂性的成功程度时,我们在构建时间上做得非常出色。
00:01:29框架定义的基础设施意味着你不需要考虑底层基础设施原语。
00:01:35不需要复杂的编排或基础设施即代码。
00:01:40我们处理计算、网络、缓存等的配置,这样你就可以专注于应用逻辑。
00:01:48但如果我们反思运行时,要让它像构建时一样简单轻松,我们还有很多工作要做。
00:01:56遗憾的是,在运行时管理应用程序对开发团队来说仍然是一项相当耗时的工作。
00:02:06在场有多少人在过去一周内处理过重大事件?
00:02:12我没看到那么多举手。
00:02:15我很惊讶。
00:02:16我想,你们都在用 GCP 吗?
00:02:20也许你们这边的各位。
00:02:22你们可能现在感觉很好,因为你们在 Hetzner 的 VPS 上自托管 Next.js。
00:02:29你们心想,云计算也伤害不了我。
00:02:33但事件响应中有太多的手工劳动。
00:02:38首先,团队需要设置警报和监控来识别潜在问题。
00:02:44这些监控工具反过来会导致警报疲劳,因为团队试图从所有噪音中识别高价值的问题。
00:02:52一旦我们发现问题,团队花费数小时调试问题,试图识别根本原因,然后应用修复。
00:03:02所以,现在观众中的各位,我们要让这个过程互动一点。
00:03:08你们认为开发人员花多少时间调试事件?
00:03:13有多少人认为这不到事件时间的 20% 用于调试?
00:03:18更多。更多?
00:03:20我听到有人说 80%。
00:03:22所以我们认为它几乎就像是,谁认为它更像是 40%?
00:03:26好的,我们有人认为是 60、70?
00:03:33好的,这似乎可能是共识了。
00:03:36实际上事实证明 50% 的事件时间花在识别根本原因和判断谁应该解决它上。
00:03:46那太疯狂了,在 2025 年有 AI 的时代,我们仍在花费宝贵的开发人员时间调试问题。
00:03:54如果我们能把这个时间缩短到几秒钟呢?
00:03:56好吧,使用 Vercel Agent,你可以做到。
00:04:01我们的异常警报监控你的应用程序的可疑活动。
00:04:06开箱即用,无需配置。
00:04:09一旦我们检测到异常行为,Vercel Agent 就会调查问题,执行根因分析,并在几秒钟内诊断问题。
00:04:20与传统可观测性工具或基础设施提供商不同,我们拥有你应用的完整上下文。
00:04:26我们构建了它,部署了它,并在生产环境中运行它。
00:04:30尽管我们不如你那样了解你的应用,当然也不如你的 10X 工程师了解,但我们处于独特的位置,能够在运行时为你提供一种 AI 原生方法来确保可靠性、
00:04:44性能和安全性。
00:04:45Vercel Agent 调查建立在我们原生可观测性工具之上,我们经过深思熟虑地设计了它,以便在构建时上下文中为你提供运行时行为的可见性。
00:05:00运行时日志为你提供了应用程序行为的详细可见性。
00:05:07使用运行时日志,你可以追踪对你的应用程序的 HTTP 请求的生命周期,从它进入 Vercel 网络的时刻开始,一直到响应被返回给客户端。
00:05:19我们还为你提供了开箱即用的有建议的仪表板,这样你可以快速了解你的应用程序的健康状况,查明问题,并优化性能。
00:05:32有了 Vercel 最近推出的异常警报,现在你可以主动监控你的应用程序的异常活动,以便你可以快速识别和解决问题。
00:05:45最后,使用我们的查询工具,你可以探索我们收集并在你的应用程序上展示的大量指标。
00:05:55你可以编写查询来回答一系列问题,比如什么机器人在爬行我的应用程序,一直到量化你在应用程序中使用的各种模型提供商的 P90 第一个 token 的时间。
00:06:09Vercel Agent 调查建立在所有这些功能之上,减少了手动探索的需要,并突出了关键见解。
00:06:22当我们展望 Vercel Agent 的未来时,我们的目标是最终重新想象我们与可观测性工具的交互方式。
00:06:34我们的愿景是 AI Cloud 将修复并优化你的应用程序,而不仅仅是告知你问题。
00:06:42从根本上讲,我们相信 AI Cloud 不应该只向你呈现问题,还应该为你提供解决方案、建议、拉取请求和自动化操作。
00:06:58这就是我们使用 Vercel Agent 所追求的世界。
00:07:03你可以从今天开始使用 Vercel Agent。
00:07:05如你所听到的,它处于公开测试阶段,我们为所有 Vercel 用户提供 100 美元的免费额度来尝试这些新功能。
00:07:13我们上个月推出了代码审查技能,现在所有 Vercel 用户都可以使用。
00:07:19Agent 调查从今天开始提供,面向拥有可观测性增强版的专业版和企业版客户。
00:07:27你可以访问 Vercel 仪表板中的 Agent 选项卡来开始使用。
00:07:33所以我要换个话题了。
00:07:35我其实想花时间在另一个重要话题上,就是评估。
00:07:39在场有多少人在使用专门的 AI 可观测性产品来进行评估?
00:07:44哦,我看到实际上非常少的人举手。
00:07:48有趣。
00:07:49但对于那些使用的人,你知道 AI 应用是非确定性的。
00:07:55所以我们也需要监控输出的质量是非常重要的。
00:08:00代理将一系列推理步骤连接在一起,引入了更多的复杂性。
00:08:06这就是为什么我们看到了大量构建在 OpenTelemetry 之上的代理框架生态系统,以帮助开发人员监控、
00:08:15调试和优化他们的代理工作流。
00:08:17我想我看到举手的人非常少,但有多少人在为评估收集追踪数据?
00:08:23好的,我看到观众中有几只手举起来了。
00:08:27我看到观众中有几只手举起来了。
00:08:27对不起,我像是在偷看那边。
00:08:29这里很亮。
00:08:30所以如果你使用 OpenTelemetry 收集追踪,你可以使用 Vercel 导流将这些追踪发送到任何目的地。
00:08:40Vercel 导流允许你将所有 Vercel 数据导出到第三方可观测性工具。
00:08:46所以如果你使用第三方评估工具,你可以将你的追踪导出到那里。
00:08:50为了让开发人员轻松运行评估和监控模型质量,我们实际上已经通过 Vercel 市场与 Brain Trust 合作。
00:09:01通过这项新的集成,你只需点击几下就可以自动从 Vercel 流传追踪和评估数据到 Brain Trust。
00:09:10今天早些时候,你可能听到了更多关于我们的市场集成,通过一个与 Brain Trust 的创始人 Ankur Goyal 的小组讨论。
00:09:19为了让你很容易入门,我们实际上有一个演示应用程序。
00:09:25你可以扫描这个二维码。
00:09:27这个演示应用程序你可以从我们的模板库中克隆。
00:09:30这是一个用 Next.js、
00:09:32AISDK 和 AI Gateway 构建的 AI 聊天机器人,追踪被发送到 Brain Trust。
00:09:38我给你们一秒钟。
00:09:39哦,我挡在路上了吗?
00:09:44我要让开了。
00:09:45太棒了。
00:09:47如你所见,我们的目标是为你提供灵活性和对使用工具的控制。
00:09:55虽然我们努力构建真正强大的原生可观测性工具,但你始终可以自由地将数据发送到你想要的任何地方。
00:10:03最重要的是你能够构建出色的用户体验,并将不可预测的代码变成可靠的系统。
00:10:11就这样,今天的演讲到此结束。
00:10:15如果你在快乐时光碰到我,我很乐意了解更多关于你正在构建的东西。
00:10:19非常感谢。
00:10:20(观众掌声)(欢快的音乐)(欢快的音乐)