云服务提供商正在发生剧变 [重新上传]
MMaximilian Schwarzmüller
Computing/SoftwareSmall Business/StartupsInternet Technology
Transcript
00:00:00像 Vercel、Cloudflare 这样的云服务提供商，甚至在某种程度上包括 AWS，都在迅速发生变化，至少
00:00:08其中一些发展非常迅速，我认为这对我们开发者来说是好事，现在也值得仔细研究一下
00:00:16云服务提供商之所以在变，是因为我们作为开发者也在变，当然是因为
00:00:22现在正在改变的不仅是我们构建的东西，还有我们构建的方式，这两者都在改变
00:00:30我们构建的东西，在某种程度上当然还是我们以前构建的那些，比如软件、Web 应用等等，所以
00:00:40这部分当然在某种程度上没有改变，但我们构建得更多了，因为 AI 智能体让
00:00:49开发变得更容易，坦白说，这里面有太多的东西，太多的应用程序和演示
00:00:55可能永远不会、或者至少不应该见天日，但我们构建得更多了，因为 AI 智能体让
00:01:02一切变得更容易。AI 辅助编码当然是一种趋势，可能不是你想要在严肃项目中主要使用的东西
00:01:09对于那些计划出售或分发的严肃软件而言，但当然，AI 辅助编码
00:01:16对于你自己的小型内部工具、一些解决特定问题的即用即弃软件来说，绝对是可以的
00:01:24在那里你不需要关心覆盖所有利基情况，也不关心安全性等等
00:01:29所以我们有了这些，因此我们当然构建得更多了，然后我们当然也在构建 AI
00:01:36智能体和智能体应用，无论这意味着什么，但归根结底，它意味着应用程序或
00:01:45工具、工作流，无论你怎么称呼它，它们封装了大型语言模型，封装了 AI，然后做
00:01:52一些潜在的智能操作，在这里你可能正在构建一些 AI 可以调用工具的东西
00:01:58分发任务、与文件系统交互等等，所以这就是“什么”部分在改变，但当然
00:02:05“如何”也在改变，因为我们，或者我想说我们中的许多人，不再手工编写代码了
00:02:14我们不再那样做了，至少不是 100% 的代码。相反，我们正在使用像
00:02:23Claude 或 Codex 之类的 AI 智能体，或者无论你正在使用什么，我们当然会让这些智能体做越来越多的事情，所以
00:02:33你可能会用它们来写代码，但也可能让你在系统上运行各种 CLI 命令和工具
00:02:40从简单的 Git 提交和推送开始，这相对简单容易，一直
00:02:47到部署，也许你不仅是在使用这些智能体生成代码，可能还在
00:02:54使用它们来生成 Docker 镜像，或者使用 CLI 工具推送代码，推送
00:02:59应用程序到某个托管提供商，这让我回到了云端，以及云服务提供商是如何
00:03:07改变的。Vercel 本身已经转型，将其定位为专注于智能体基础设施。如果你访问 Vercel.com
00:03:17那是你现在读到的第一件事，在右边你会看到“用于发布应用的编码智能体”和
00:03:24“由智能体自动化”。所以在这里我们在这个方框里看到了三次“智能体”这个词，他们显然
00:03:33在讨论成为任何由智能体构建的东西的平台，包括智能体本身。现在这非常
00:03:41类似于 Cloudflare，如果我直接访问 Cloudflare.com，我看到了这条信息，在那里我了解到
00:03:48Cloudflare 是一个用于我的应用、智能体和劳动力的平台，所以肯定没有那么“智能体优先”或“AI 优先”
00:03:58但我们在主要信息中也看到了“智能体”这个词，当我们观察这些
00:04:05正在迅速变化的云提供商提供的服务时，也会看到它。Netlify
00:04:13也提到了 AI，但没有用“智能体”这个词，他们仍然主要致力于服务于你的应用，你的 Web 应用
00:04:22这些应用可能是用 AI 构建的，但不太关注在云端运行 AI 智能体，我会回过头来
00:04:29讲讲为什么这很重要。作为最后一个例子，如果我们看看 AWS，现在当我访问它时
00:04:35主信息里也有“智能体”这个词，我看到我可以以“智能体的速度”移动。现在什么是
00:04:42重要的，或者说有趣的是，这当然与我们正在构建什么以及我们如何
00:04:48构建有关，所有这些云服务提供商，我认为如今都有三个主要支柱。第一个
00:04:57支柱是关于应用的，这当然是他们一直以来的重点。现在，顺便提一下，当然
00:05:03AWS 与 Vercel 之类的相比有点难比较，因为它更复杂，它更多是关于拥有
00:05:10大量的原语和托管服务，它是为了所有的企业客户，并不是说
00:05:16Vercel 没有企业客户，但 AWS 的宗旨是为你提供所有的构建模块，你
00:05:22可能永远想要在云端构建任何类型的系统，因此他们从来不是
00:05:29主要或仅仅关于在云端运行 Web 应用或其他软件，他们是关于
00:05:36给你在云端做任何事所需的工具，存储任何类型的数据，运行任何类型的
00:05:43工作流。Vercel、Netlify，当然还有 Cloudflare，更多是关于“嘿，你有一个 Web 应用”
00:05:53在这里运行它”，当然不只是关于这个，但那确实是他们更多的焦点。所以我主要
00:06:00在这里谈论应用，当我提到应用时，我当然是指 Web 应用、网站，无论你怎么称呼
00:06:05它。所以这就是我们使用这些云服务提供商的目的，这当然没有真正改变，你可以
00:06:11并且仍然会为了这个目的使用它们，这真的无关乎你如何构建那些应用，对吧？如果你使用
00:06:17Cloud Code 或 Codex，真正可能有点容易的地方，也是我实际上很喜欢 AI 的地方是
00:06:24部署变得更简单了，因为你可以指向 Cloud Code 或其他工具到相关的文档
00:06:32页面，你可以安装 CLI，你可以安装 Vercel CLI、Cloudflare Wrangler 工具等等
00:06:39如果你安装了这些，如果你给智能体一些搜索部署
00:06:45细节和说明的提示，它可以为你完成部署，或者至少它可以为你准备好它。它可以
00:06:50编写配置文件，这一切都变得简单了一些，因为让我们诚实地说，如果部署变得更复杂
00:06:57部署可能是一件很麻烦的事情，而 AI 在这里绝对可以提供一点帮助。现在就像 AI 辅助编码一样
00:07:03显然你仍然想要了解发生了什么，至少我想了解发生了什么，但
00:07:09它可以在那方面提供帮助，所以那个支柱当然仍然存在。现在第二个支柱，我们现在有了
00:07:16但它是新的，是智能体或 AI 智能体，你将它们运行在云端，因为当然
00:07:24我们正处于这个时间点，一方面我们仍在试图弄清楚我们到底将如何
00:07:30与 AI 一起作为开发者工作，但我们也处于这个点，所有公司都在
00:07:37构建 AI 智能体，有时很难掌握你到底想构建什么，以及那些
00:07:44智能体应该为你做什么，但至少从 CEO 的角度来看，你可能有一个
00:07:51营销智能体，你可能有一个做客户支持的智能体，一个帮助你
00:07:59财务部门的财务智能体等等。作为一名开发者，你可能有一个在你的 GitHub 仓库上
00:08:06处理未结问题的智能体，你可能还有另一个做研究的智能体，而这些智能体需要运行
00:08:13在某处。现在显然它们可以在你的系统上运行，如果你是在某家
00:08:18大型公司工作，没有无限权限，不能安装任何你想要的东西，这会有点困难
00:08:23在你的系统上，但即使作为小开发者，在你的系统上运行所有东西，当然也有一些
00:08:29安全影响。如果让 AI 智能体在你的系统上游荡，它可能会造成损害
00:08:35意外地，或者因为提示注入等等，所以你可能想要一个它能
00:08:42安全操作的环境，或者它无法造成太多损害的环境。现在外面有很多不同的解决方案
00:08:49你可以看看像“Just Bash”这样的工具，有趣的是，这也是 Vercel 开发的，顺便说一下
00:08:56他们发布了许多工具，旨在使 AI 开发更容易，而 Just Bash 本质上
00:09:03是一个沙箱解决方案，你可以在你的系统上运行它，在一个虚拟的 Bash 中运行智能体
00:09:10权限受限等等，所以你可以使用类似的工具，但当然你也可以在
00:09:16云端运行这些智能体，或者你可以组合使用，让一个智能体在本地运行，将某些任务
00:09:23卸载到云端。例如，Cloudflare Sandbox SDK 旨在简化运行任务的过程
00:09:31智能体任务，让 AI 智能体在云端做它的事情，在那里你可能可以暴露 R2
00:09:39Cloudflare R2，也就是他们的 S3 等价物，作为一个文件系统等等，这样你就有一个即用即弃的
00:09:46环境，智能体可以做任何你想做的事情。如果它弄坏了东西，没关系，因为你可以
00:09:51直接重启沙箱，你也不会暴露整个系统。所以，这当然是一个全新的、
00:09:57你想部署到云端或想在云端运行的事物类别。这绝对是
00:10:04Vercel 和 Sandbox 正在迈进的方向，他们不仅想让你和你的
00:10:13智能体轻松地将 Web 应用和应用推送到云端，那也是他们想做的，但不仅仅如此
00:10:19相反，他们也想让你更容易在云端运行你可能已经构建的 AI 智能体，然后
00:10:26还有第三个支柱，我认为是 AI 网关支柱，或者无论你怎么称呼它。你
00:10:34知道，我们有所有这些 AI 提供商，我们有像 OpenAI、Anthropic、Google 这样的专有提供商，以及
00:10:42然后我们有一些开源模型，它们可能是开源或开放权重的，但在你的
00:10:49系统上运行它们可能会很棘手，取决于大小。现在，我当然有各种课程，包括关于 ChatGPT 的
00:10:56高级指南 Cloud Code，但我也有关于运行本地大型语言模型的课程，因为
00:11:03我是那些开放权重模型的忠实粉丝，你可以真正地只用 Ollama 或 LM Studio 或
00:11:09其他工具在你的系统上运行它们，但当然，对于大多数系统来说，你至少受限于较小的
00:11:16模型，这些模型仍然有帮助，正如我在本课程中展示的那样，但如果我们谈论更大的模型，你
00:11:21仍然很可能需要一些为你托管它们的提供商，以便你可以通过云端访问它们
00:11:30而且无论我们是在谈论那些你不能或不想在你的
00:11:35系统上运行的开放模型，还是在谈论许多专有模型，这些像 Cloudflare 这样的提供商，还有
00:11:41Vercel 以及 AWS，他们提供的服务可以被称为 AI 网关（以 Cloudflare 为例）或
00:11:50对于 AWS，它是 Amazon Bedrock。但这些仅仅是关于通过一个统一 API 访问 AI 的服务
00:12:00在那里你可以基本只需切换一个值，然后切换到不同的提供商，计费通过
00:12:06Cloudflare 或 AWS 完成，因此更容易访问多种多样的 AI 模型，这些模型
00:12:13易于监控，易于切换，你不需要为 OpenAI、
00:12:19Anthropic、Google 或任何其他你想到的提供商创建大量账户。把它想成本质上的 OpenRouter
00:12:27OpenRouter 当然是一个让在不同模型之间切换变得容易的服务，而 Cloudflare、Vercel、AWS
00:12:33他们基本上拥有自己的类似 OpenRouter 的解决方案，你可以这样说。有一些差异
00:12:40因为 OpenRouter 确实只是一个路由器，关于将你的请求导向不同的提供商
00:12:47而 Cloudflare 和 AWS，例如，他们也为这些模型提供托管，所以有了 Amazon Bedrock
00:12:56例如，你可以访问托管在 AWS 基础设施上的 Anthropic 模型，作为客户
00:13:04你可以控制它应该在哪个地区托管，你有更大的控制权，关于你的数据
00:13:11存放在哪里，或者谁能访问你的数据，这当然对企业客户很重要，所以它
00:13:17实际上是这里的多种事物的组合。它显然很方便，因为在
00:13:23不同的模型之间切换更容易，你甚至可以设置路由规则，不同的请求可能获得不同的模型
00:13:29自动地。你有统一的计费体验，但除了便利性之外，它还关乎更多
00:13:36关于模型托管在哪里的更多控制权，至少对于其中一些提供商来说是这样
00:13:41我认为因此，这些是我们目前看到的这些主要云服务提供商的三个主要支柱，而且我
00:13:50发现非常有趣的是，例如 Netlify 仍然主要关注这里的第一个支柱
00:13:58这是他们的决定，他们的策略，而 Cloudflare 和 Vercel 和 AWS 以及许多其他人，顺便说一下，当然
00:14:05正在扩展，并试图覆盖所有三个支柱。现在我认为作为开发者，无论
00:14:12你是否正在构建 AI 智能体，也不管你是否在与 AI 工作，这些都是伟大的
00:14:19发展，因为一个好的副作用是，这些云服务提供商在努力使 AI 智能体更容易
00:14:27使用它们的过程中，正在给我们提供更多访问其服务的方式。他们正在改进其
00:14:36CLI 工具，其文档，以便向智能体提供所有这些信息，剧透一下，你作为人类
00:14:43也可以阅读，所以那很不错，而且他们正在构建更有用的原语。我是说 Cloudflare
00:14:49单独来说，为了清楚起见，这不是什么付费广告或类似的东西，这些
00:14:55真的是我正在使用的服务。但 Cloudflare 单独发布了这么多新的好服务，比如 Dynamic
00:15:04Workers，其中一个 Worker 是一种由他们提供的无服务器解决方案，你可以在那里执行代码
00:15:10在云端，其中一个 Worker 可以启动更多的 Worker 来卸载某些任务，无论你是
00:15:16否正在构建 AI 智能体，如果你正在构建任何类型的服务或
00:15:22工具，你的客户可能与你共享一些数据或代码，或者你想执行一些涉及
00:15:30客户数据或客户代码的代码，拥有可以安全地在即用即弃环境中这样做的
00:15:37原语很好。因此，这些新功能即使你不关心 AI，即使你根本没有
00:15:44在构建 AI 智能体，也很不错。这就是为什么我对这些云服务提供商的变化感到兴奋，以及为什么我认为玩转
00:15:50不同的提供商比以往任何时候都更有趣。如果你一直使用 Netlify，也许试试 Vercel 或 Cloudflare，然后钻回他们的文档
00:15:57也许结合 AI 来了解他们提供了什么，以及你如何在他们之上构建
00:16:05 Anyways, that's just something I'm observing something I'm pretty excited about
00:16:11anyways, that's just something I'm observing, something I'm pretty excited about, and as always, I'm interested
00:16:16in hearing your perspective on that, and what I maybe missed, or what you think about this transformation
00:16:22of cloud providers and where we're heading to.