Wie wir das Erstellen von Agents gelöst haben — Andrew Qu, Vercel

AAI Engineer
컴퓨터/소프트웨어창업/스타트업AI/미래기술

스크립트

00:00:00Hallo zusammen, danke, dass ihr da seid. Ich bin Andrew, Chief of Software bei Vercel, und ich bin hier, um
00:00:20mit euch darüber zu sprechen, wie wir bei Vercel den Bau von Agenten gelöst haben. Ich bin Chief of Software, arbeite also an
00:00:26einer Mischung aus interner Entwicklung, externem Experimentieren und bewege mich im Allgemeinen an der
00:00:30Front, wo wir neue Bibliotheken, Frameworks und Technologien entwickeln. Für diejenigen unter Ihnen, die Vercel nicht
00:00:36kennen: Vercel entwickelt agentische Infrastruktur, damit Menschen das nächste Ding bauen können. Wir haben angefangen
00:00:42in der Welt des Webs, und helfen Leuten, Websites und Web-Apps zu veröffentlichen, ohne sich um die
00:00:47Infrastruktur kümmern zu müssen, die ihre App nicht besser macht. Sie lässt sich mühelos auf eine Million skalieren und auf
00:00:50null herunterfahren. Aber wir sehen einen Wandel darin, was die Leute bauen wollen. Die Leute fingen an,
00:00:56Seiten zu bauen, aber jetzt sehen wir, dass sie Agenten bauen wollen, und wir haben eine ähnliche
00:01:01Reise unternommen, um es den Leuten einfacher zu machen, Agenten und agentische Anwendungen zu erstellen. Wir haben dieses
00:01:08Ding namens AISCK gebaut, sodass Sie, anstatt 300, 400 Zeilen an anbieterspezifischem Code austauschen zu müssen,
00:01:13nur eine Zeile Code austauschen müssen, und wir haben für all diese verschiedenen Anbieter dieselbe zugrunde liegende Modellschnittstelle.
00:01:19Wir haben viele andere Tools entwickelt, um Modell-Fallbacks, sichere
00:01:25Code-Ausführung, bessere Preise bei Inaktivität und Wartezeiten auf Antworten sowie Ausfallsicherheit und
00:01:30Wiederaufnehmbarkeit zu erleichtern. Und ich bin hier, um mit Ihnen darüber zu sprechen, wie ich vor etwa einem Jahr dieses verrückte Experiment gestartet habe, das zu einer
00:01:38agentischen Explosion bei Vercel und zu einer wirklich coolen Sache führte, die wir kürzlich gebaut haben.
00:01:46Etwa, das ist 1980, Bill Gates, vor meiner Zeit, hatte dieses Zitat, in dem er sagte, er stelle sich vor, es gäbe einen Computer
00:01:53auf jedem Schreibtisch und in jedem Zuhause. Wissen Sie, das war damals wahrscheinlich ziemlich konträr, und heute erscheint es
00:01:59völlig normal. Und der CTO und ich hatten den Gedanken: Anstatt eines Computers auf jedem Schreibtisch, könnten wir
00:02:07möglicherweise einen Agenten auf jedem Schreibtisch haben? Wissen Sie, heute nutzen wir Agenten eigentlich nur für Programmierung und technische
00:02:15Workloads, aber wir sehen eine Ausweitung auf Bereiche wie Design, Produktmanagement und andere
00:02:20Branchen. Und das war vielleicht vor etwa einem Jahr, ich war also ziemlich früh dran. Aber damals war es so,
00:02:27dass Sonnet 4 da war und die Dinge nicht so ausgefeilt waren wie heute. Und ich habe versucht, das zu erkunden und zu sehen, was wir
00:02:33dagegen tun können. Ich bin zu verschiedenen Funktionsbereichen bei Vercel gegangen: Marketing, Vertrieb, Finanzen, Recht. Und ich habe sie gefragt: Was hassen Sie
00:02:42an Ihrem Job am meisten? Und der überzeugendste Anwendungsfall, den ich hörte, kam vom Datenteam. Sie wuchsen, sie waren ein sehr schlankes
00:02:50Team, aber Vercel wuchs schneller. Wissen Sie, sie hatten so viel mehr Daten von Kunden, Analytics, Metriken, Vertrieb. Sie mussten sie einfach ständig aggregieren und für sich selbst verfügbar machen.
00:03:02zu nutzen. Und wenn man sich zu dieser Zeit vorstellt, was Data-Science-Leute tun müssen: Immer wenn jemand aus dem Marketing oder Vertrieb eine
00:03:11Frage zu einem Kunden oder Produkt hat, muss das Data-Science-Team alles stehen und liegen lassen, die Abfrage schreiben, verarbeiten, eine Analyse durchführen und mit einer
00:03:19Empfehlung zurückkommen, was zu tun ist. Und das war Gift für die Produktivität. Wissen Sie, das Datenteam wollte nicht alles stehen und liegen lassen und den ganzen Tag nur Abfragen schreiben. Und so habe ich mit unserem VP of Data zusammengearbeitet, um einen besseren Weg zu versuchen.
00:03:31zu versuchen, einen besseren Weg für ihre Arbeitsweise zu finden. Wenn Sie also an das Allererste denken, das Sie tun würden, wenn Sie versuchen, KI zu nutzen
00:03:40um ein Problem zu lösen, bauen Sie vielleicht einfach einen riesigen Mega-Prompt. Wissen Sie, Sie haben einfach eine Frage, übergeben sie an ein LLM, lassen es antworten, und das war's. Wissen Sie, so sah die erste Version ehrlich gesagt wirklich aus.
00:03:52Ich bat sie um einen Dump des Snowflake-Schemas. Ich fügte es zusammen mit einer Frage in einen System-Prompt ein. Und wenn es SQL generierte, habe ich das tatsächlich
00:04:01kopiert, eingefügt und selbst ausgeführt. Wissen Sie, ich wollte nur sehen, ob die Modelle heutzutage gut genug sind, um bei einer angemessenen
00:04:09Struktur gültiges SQL zu schreiben. Und ich würde sagen, das gab uns ein wenig Zuversicht, dass die heutigen Modelle zwar nicht so gut sind, aber dass wir vielleicht durch Prompt Engineering oder die Gestaltung des Kontexts ein paar Leitplanken einbauen können, damit sie etwas besser funktionieren.
00:04:21Wenn Sie sich also überlegen, was ein Data Scientist tatsächlich tun muss, wenn er eine Frage erhält: Er muss die Frage verarbeiten.
00:04:28Er muss möglicherweise die semantische Schicht untersuchen und herausfinden, wie die Join-Muster aussehen. Er wird tatsächlich das SQL ausführen.
00:04:35Er geht vielleicht zurück und tut das noch einmal, wenn das SQL nicht ausgeführt wurde oder zu teuer war. Und schließlich wird er darüber berichten, einschließlich der Visualisierung der
00:04:42Daten, vielleicht ein paar Absätze schreiben, ein Retrospektive machen oder andere Dinge tun. Und wenn Sie an diese verschiedenen Phasen denken, haben der VP of Data und ich
00:04:50versucht, sie in spezifische Agenten-Workloads zu unterteilen. Und so ist die zweite Version dieses Data-Science-
00:04:57Agenten namens D0 – ich werde ab jetzt D0 nennen – dass man eine Frage stellt und wir einen Abfrage-Agenten haben, der eine Abfrage an den
00:05:05Planungsagenten weitergibt, der dann einen Ausführungsagenten hat usw. Und wenn man das alles verkettet, erhält man
00:05:11etwas, das so aussieht, dass jeder Agent einen ganz dedizierten System-Prompt hat, der sich auf seine Aufgabe konzentriert, mit Tools, die genau auf diese Funktion zugeschnitten sind.
00:05:20Als Beispiel sehen Sie hier, dass der Planungsagent für den ersten Teil ein Tool zum Lesen von Entitäts-YAMLs und zum Durchsuchen von Schemas hat. Er wird also nur diese
00:05:31Fähigkeiten nutzen, bis er eine Antwort hat, die er an den Planungsagenten, dann an den SQL-Agenten und schließlich an das Reporting weitergibt. Und das wurde
00:05:38besser. Wir mussten kein SQL mehr kopieren und einfügen und dann zurückkommen, um darüber zu
00:05:44berichten. Es führte nun tatsächlich die gesamte Schleife von der Frage bis zur Antwort durch. Aber wir stießen bei dieser
00:05:54Architektur an einige Grenzen. Und um diese Zeit kamen wir zu dem Schluss, dass man eigentlich
00:06:01einen Agenten mit dem gesamten Megakontext darin braucht, der seinen Speicher sozusagen selbst verwaltet. Zu dieser Zeit
00:06:07wurde uns klar, dass der Agent in der Lage sein sollte, auf das zurückzublicken, was er getan hat, darüber nachzudenken und
00:06:13die Schritte nachzuvollziehen, die ihn hierher geführt haben. Und bei dem vorherigen Modell ist Ihnen vielleicht aufgefallen, dass das Einzige, was der
00:06:19nächste Agent erhält, eine Zusammenfassung und ein kleiner Ausschnitt des zuvor getanen Schritts ist. Nun, auf diese Weise können
00:06:25Sie sich vorstellen, dass Sie einen einzigen Mega-Agenten haben, der intern seinen eigenen Status verwaltet. Mal plant er,
00:06:30mal baut er, mal führt er aus und mal berichtet er. Und so in etwa sah das
00:06:36aus. Sie haben einen großen KI-Aufruf, vielleicht maximal 100 Schritte, und geben ihm die Möglichkeit, seinen Status
00:06:43abhängig davon zu verwalten, wo er sich auf seiner Ausführungsreise befindet. Sie sehen also, es ähnelt dem, was
00:06:48Tools betrifft, man erkennt eine ähnliche Form. Aber das Beste daran war: Wenn er jemals während der Ausführung oder
00:06:54des Joins auf einen Fehler stieß, konnte er zurückgehen und weiterforschen oder mehr lesen, um herauszufinden, was er falsch gemacht hatte.
00:07:00Und das funktionierte an dieser Stelle sehr gut. Wir hatten ziemlich viel Vertrauen in das tatsächliche System und haben es
00:07:06tatsächlich an einige vertrauenswürdige Mitglieder unseres Teams weitergegeben. Das war ein sehr mächtiges Tool, und wir wollten es nicht unbedingt
00:07:11in die Hände der falschen Leute geben oder an Leute, die sehr kritische Workloads ausführen. Wir haben es also einigen Leuten gegeben, und die sofortige
00:07:17Reaktion war, dass es schrecklich war. Wir dachten, wir hätten es drauf. Wir dachten, das würde 30 % unserer Evals
00:07:23erfüllen. Aber wir konnten einige der Fragen, die gestellt wurden, unmöglich vorhersehen. Und mehr Zeit damit zu verbringen,
00:07:28einige dieser Szenarien manuell abzubilden, schien kein sehr skalierbarer Weg zu sein.
00:07:33Und dann kamen Claude Code und Opus 4.5 heraus – beziehungsweise eher Opus 4.5 – und es war in Verbindung mit Claude Code einfach so mächtig.
00:07:44Wissen Sie, sie haben quasi das Konzept eines Dateisystem-Agenten erschlossen. Und wir dachten uns nebenbei: Wow, Claude Code und Opus 4.5 sind im Vergleich zu dem, was wir vorher hatten, quasi AGI.
00:07:56Es beantwortete die meisten unserer Fragen, ohne mit der Wimper zu zucken, verglichen mit unserem selbst gezüchteten Agenten.
00:08:04Und als wir einen Schritt zurücktraten und uns fragten, was wir falsch gemacht hatten und warum das so viel besser war, wurde uns klar, dass die große Neuerung einfach ein Dateisystem war.
00:08:13Wissen Sie, es hatte einen minimalen Satz an Tools – Datei auflisten, Datei lesen, Bash ausführen – und wir haben für unseren eigenen Datenagenten-Anwendungsfall noch ein paar weitere hinzugefügt.
00:08:24Aber das Wichtigste war, dass es die Tools nutzen konnte, auf die Agenten gut trainiert sind, und in der Lage war, zu erkunden und dort zu arbeiten, wo es nötig war.
00:08:32Wir gaben ihm keine – Claude Code gab ihm keinen allzu präskriptiven Satz von Tools.
00:08:37Es hat ihn sozusagen einfach machen lassen und emergentes Verhalten erkundet.
00:08:41Daraus haben wir also gelernt, dass man wirklich einfach das Dateisystem verwenden kann.
00:08:44Wir sahen die Erkenntnisse von Claude Code und wie mächtig es ist, da es einfach lokal ausgeführt wird.
00:08:50Und wir versuchten, es auf eine sehr Claude-Code-ähnliche Weise neu zu bauen.
00:08:54Es würde jetzt in einer Sandbox laufen.
00:08:57Diese Sandbox würde die gesamte semantische Schicht hineinladen.
00:09:00Der Agent wäre in der Lage, Bash zu nutzen, Dateien zu lesen und zu schreiben, um herauszufinden, was er braucht.
00:09:05Und wir würden einfach ein paar Tools oben drauf streuen, um sicherzustellen, dass er alles Vercel-Spezifische tun kann.
00:09:10Und das war tatsächlich der größte Durchbruch überhaupt.
00:09:14Der Sprung vom Einzelagenten zum Claude Code SDK und dann vom Claude Code SDK zum Dateisystem-Agenten im Allgemeinen, der für unseren Anwendungsfall feinabgestimmt oder maßgeschneidert ist, war ein erstaunlicher Sprung.
00:09:27Zu diesem Zeitpunkt fingen wir an, uns darauf vorzubereiten, ihn weiteren Leuten bei Vercel zur Verfügung zu stellen.
00:09:31Und an diesem Punkt hat sich der Eval-Score im Grunde verdoppelt.
00:09:36Und ich habe das geschrieben – so sieht es im Grunde aus.
00:09:39Es ist sehr einfach.
00:09:40Man gibt ihm einfach ein Bash-Tool.
00:09:41Wir haben einen schönen Helfer namens Bash-Tool auf NPM.
00:09:44Und man verbindet es mit einer Sandbox.
00:09:45Und man kann Dateien an die Sandbox anhängen, damit sie gelesen, geschrieben und ausgeführt werden können.
00:09:50Und nach dieser Offenbarung und nachdem ich sah, dass wir so viele der Fragen bestanden, an denen wir zuvor gescheitert waren, habe ich diesen genialen Blogbeitrag geschrieben.
00:09:59Er ist tatsächlich immer noch online.
00:10:00Und in der Woche, in der ich das schrieb, war er für 70 % unseres Vercel.com-Traffics verantwortlich.
00:10:05Sie wissen also, dass es ein Knaller ist.
00:10:07Und danach war der nächste logische Schritt, dass wir die häufigsten Anwendungsfälle herausfinden wollten.
00:10:14Bis dahin hatten wir ihn also bereits auf ganz Vercel losgelassen.
00:10:18Und wir erhielten Tausende von Abfragen pro Tag von Leuten, die alles wissen wollten, von Kundenmetriken, Vertriebsmetriken, Zahlenmetriken bis hin zu NPM-Downloads.
00:10:27Und es stellte sich heraus, dass viele dieser Abfragen vom Aufbau her eigentlich identisch sind.
00:10:30Wissen Sie, es gibt nur so viele Möglichkeiten, eine Aggregation durchzuführen.
00:10:33Nur so viele Möglichkeiten, ein Produkt nachzuschlagen.
00:10:35Nur so viele Möglichkeiten, Abrechnungsinformationen abzufragen.
00:10:37Und deshalb haben wir tatsächlich einen wiederkehrenden Job, der die neuesten Abfragen nimmt und versucht, sie in eine Fähigkeit zu bündeln.
00:10:43Und im Moment haben wir ungefähr 100 Fähigkeiten, die eine Mischung aus Aggregationen bis hin zum Nachschlagen spezifischer Daten über bestimmte Personen ausführen.
00:10:50Und das fanden wir äußerst effektiv.
00:10:52Denn wenn man an jeden neuen Agentenlauf denkt, beginnt er quasi bei Null.
00:10:56Es gibt eigentlich keinen vorgefertigten Kontext außer der semantischen Ebene und dem System-Prompt.
00:11:01Mit einem Skill startet er jedoch bereits mit viel kontextuellem Wissen, das ansonsten schon erarbeitet worden wäre.
00:11:09Und so in etwa sieht das aus.
00:11:11Es ist dem vorherigen sehr ähnlich.
00:11:12Aber das Hinzufügen eines Skills-Ordners ist tatsächlich sehr wirkungsvoll.
00:11:15Wir haben bei Vercel auch dieses Tool namens Skills SH entwickelt.
00:11:18Es ist der beliebteste Weg, um Agenten-Skills zu finden und selbst auszuführen.
00:11:22Und ich erzähle das alles, weil diese Reise etwas ist, die die meisten von Ihnen ab und zu erleben werden.
00:11:28Wo man mit etwas Einfachem beginnt, schrittweise Komplexität hinzufügt und schließlich ein System erreicht, das man in die Produktion bringen kann.
00:11:34Und ich sage Ihnen das, weil bei jedem Schritt beim Aufbau dieses Agenten jemand bei Vercel neugierig auf Agenten war.
00:11:42Und sie versuchten, meinen D0-Agenten zu forken und ihren eigenen zu bauen.
00:11:46Und bei jedem Schritt hatten wir sozusagen einen besseren Weg für etwas, das vorher nicht bekannt war.
00:11:50Und wir fragten uns, wie es wäre, wenn die Leute heute von der allerletzten Erkenntnis anfangen könnten und nie wieder von einem einfachen Prompt oder von Grundprinzipien aus Best Practices neu erfinden müssten.
00:12:04Und so dachten wir uns: Was wäre, wenn wir Next.js für Agenten bauen würden?
00:12:09Für diejenigen, die es nicht wissen: Next.js ist ein beliebtes Web-Framework von Vercel, das dieses Konzept einer dateisystembasierten Framework-Definition für Infrastruktur erfunden hat.
00:12:18Man muss sich keine Gedanken darüber machen, wo Dinge hinkommen.
00:12:20Man muss lediglich Dateien nach den richtigen Konventionen schreiben.
00:12:23Und es wird automatisch deklariert, wo sie hingehören.
00:12:26Ihre Seiten gehen zum CDN.
00:12:27Ihre Serverless Functions landen dort.
00:12:29Ihr Caching erfolgt im Zentrum.
00:12:31Und wir dachten uns, dass das Erstellen von Agenten genauso einfach sein sollte.
00:12:34Man sollte nur einen Skills-Ordner, einen Tools-Ordner und einen Channels-Ordner erstellen müssen.
00:12:38Und man sollte diese sehr einfach deklarieren können.
00:12:40Und das Framework sollte genau wissen, wie man daraus einen Agenten macht.
00:12:44Aus diesem Grund haben wir vor zwei Wochen Eve veröffentlicht.
00:12:47Eve ist ein Agenten-Framework wie Next.js für Agenten, bei dem es sehr einfach ist, von einer Mustervorlage aus einen voll einsatzbereiten Agenten zu haben und eigenes Wissen sowie eigene Tools hinzuzufügen,
00:12:59und es sogar in die Kanäle zu integrieren, die Ihnen vertraut sind.
00:13:03So ungefähr stellen wir uns einen Agenten tatsächlich vor.
00:13:06Wissen Sie, ein Agent hat eine Laufzeitumgebung und Kanäle.
00:13:09Und in dieser Laufzeitumgebung benötigen Sie Ausfallsicherheit.
00:13:11Sie möchten Prozesse in einer isolierten Umgebung ausführen.
00:13:13Sie möchten verschiedene Modelle aufrufen können.
00:13:15Und Sie möchten Verbindungen haben.
00:13:17Wir haben dies mit Blick auf Open Source entwickelt.
00:13:19Wir haben Eve so gebaut, dass Sie Ihre eigenen Open-Source-Adapter für Postgres, OpenAIs Responses-API, Docker und andere Konnektoren einbinden können.
00:13:29Aber wir haben es auch unglaublich einfach gemacht, auf Vercel zu deployen.
00:13:31Das einzige, was hier anders ist, ist, dass alles ein Vercel-Produkt nutzt, das wir über die Jahre entwickelt haben, um solche Erlebnisse einfach zu gestalten.
00:13:39Vercel Workflows für Ausfallsicherheit, Sandbox für eine sichere Ausführung und Vercel Connect – etwas, das wir gerade veröffentlicht haben, um kurzlebige OADC-Token für Verbindungen einfach zu generieren.
00:13:51Und wir haben während der Entwicklung von Eve den gesamten D0-Agenten darin neu geschrieben.
00:13:55Und von den verschachtelten Strukturen hinter den Kulissen, die man im Code nicht gesehen hat, sieht das Dateisystem ungefähr so aus.
00:14:01Es ist ganz einfach.
00:14:02Man hat eine Reihe von Systemanweisungen, ein paar Skills sowie Tools und kann dies sehr leicht zu einem echten Agenten zusammensetzen.
00:14:09Und es lässt sich sehr gut weiterentwickeln.
00:14:11Wir haben dies einigen wenigen Beta-Kunden zur Verfügung gestellt, bevor wir es vor zwei Wochen auf unserem Event in London offiziell veröffentlicht haben.
00:14:17Und dieses Unternehmen, das eng mit uns zusammenarbeitet, Aura, hat seinen Agenten neu aufgebaut, der so etwas wie ein Mini-Claw ist, um die Dienste von Leuten zu testen.
00:14:26Er besucht Websites, installiert sie und versucht, sie zu nutzen.
00:14:29Und sie verzeichneten unglaubliche Erfolge beim Erstellen ihres eigenen Agenten von Grund auf mit Eve im Vergleich zur Nutzung von vorgefertigtem Cloud Code.
00:14:38Weniger Schritte, bessere Erfolge sowie tiefere Einblicke.
00:14:42Und wenn Sie Eve auf Vercel deployen, erhalten Sie Observability direkt ab Werk.
00:14:49Hier sehen Sie, dass Sie sämtliche Agentenläufe, alle Tool-Aufrufe, jeden einzelnen Schritt sowie geschätzte Kosten und mögliche Optimierungen angezeigt bekommen.
00:15:00Und Sie können heute noch auf Eve.dev loslegen.
00:15:02Sie können es einfach klonen, eine Vorlage starten, unkompliziert deployen und bei Bedarf selbst hosten.
00:15:07Und der Grund, warum ich das erwähne, ist, dass ich hoffe, dass es immer mehr unternehmensspezifische Anwendungsfälle für Agenten geben wird.
00:15:14Bevor wir D-Zero entwickelt haben, haben wir viele der gut finanzierten Start-ups der Branche, die solche vertikalen Agenten bauten, hart auf die Probe gestellt.
00:15:23Die darauf spezialisiert waren, Ihre Snowflake-Instanz zu nehmen und dafür zu sorgen, dass ihr Agent Snowflake-Abfragen darauf ausführen kann.
00:15:30Aber wir haben herausgefunden, dass das, was einen solchen Agenten wirklich gut macht, eine Menge sehr spezifisches Firmenwissen ist.
00:15:38Da Vercel ein webbasiertes Unternehmen ist, haben wir viele Kunden, die Websites und Webpräsenzen besitzen.
00:15:45Das geht viel tiefer in die Frage, wann man wonach suchen sollte und welche Dinge miteinander verknüpft sind.
00:15:51Viele dieser vorgefertigten Agenten sind großartig und gut zum Ausprobieren, aber wenn Sie das Maximum herausholen wollen,
00:15:58sollten Sie versuchen, Ihren eigenen Agenten zu bauen und so viel unternehmensspezifisches Wissen wie möglich hinzuzufügen.
00:16:03Heute haben wir bei Vercel ungefähr 20 Agenten mit ordentlichem PMF, die von Marketing-Retros zur Ermittlung von Ansprechpartnern
00:16:14bis hin zum allerersten Rotstrich in einem Vertrag, wenn die Rechtsabteilung eine neue Verhandlung sieht, und meinem Data-Science-Agenten für Datenabfragen reichen.
00:16:24Das zeigt, dass wir bei Vercel sehr stark auf Agenten setzen.
00:16:28Das Ganze spart uns tatsächlich enorm viel Zeit.
00:16:32Das Data-Team war noch nie so produktiv.
00:16:34Sie haben mehr Zeit, die Leistung von Snowflake zu verbessern und neue Datenquellen hinzuzufügen, die gefehlt haben,
00:16:40um Lücken zu schließen, für die sie zuvor keine Zeit hatten, weil sie so sehr mit dem Schreiben von Abfragen beschäftigt waren.
00:16:46Und ich denke, es war noch nie so einfach für Sie in Ihrem großen, kleinen oder mittelständischen Unternehmen, einige Dinge zu automatisieren, die Sie nicht tun möchten
00:16:55oder mit denen Sie zu viel Zeit verbringen.
00:16:58Ich glaube, dass Bereiche wie HR, Finanzen und Vertrieb durch Agenten teilweise automatisiert werden können, und Eve ist meiner Meinung nach der beste Weg, um solche Agenten heute zu bauen.
00:17:09Das sind meine Social-Media-Kanäle.
00:17:11Vielen Dank fürs Kommen und Zuhören.
00:17:13Ich bin Andrew und ich bin noch da, falls Sie draußen quatschen möchten.

핵심 요약

Mit dem Open-Source-Framework Eve implementiert Vercel eine dateisystembasierte Architektur, die die Entwicklung unternehmensspezifischer KI-Agenten drastisch vereinfacht und interne Workflows automatisiert.

하이라이트

  • Das Data-Team von Vercel verwendete D0, um monotone SQL-Abfragen zu eliminieren und stattdessen die Leistung von Snowflake zu optimieren.

  • Eve integriert eine dateisystembasierte Architektur, wodurch Entwickler mit nur wenigen Ordnern für Skills, Tools und Kanäle vollständig einsatzbereite Agenten erstellen.

  • Das Unternehmen Aura steigerte die Erfolgsquote bei der Erstellung eigener Agenten durch Eve im Vergleich zu vorgefertigten Cloud-Lösungen deutlich bei weniger Schritten.

  • Vercel betreibt mittlerweile rund 20 produktive Agenten für Anwendungsfälle wie Marketing-Retrospektiven, HR und automatisierte Vertragsprüfungen.

  • Die Umstellung auf eine dateisystembasierte Sandbox-Architektur verdoppelte den Evaluierungs-Score der internen Agenten bei komplexen Abfragen.

타임라인

Hintergrund und Herausforderungen bei der Agenten-Entwicklung

  • Vercel entwickelt agentische Infrastruktur und standardisiert Modellschnittstellen über AI SDKs.
  • Das Datenteam verbrachte zu viel Zeit mit dem manuellen Schreiben von SQL-Abfragen für Marketing und Vertrieb.
  • Der erste prototypische Ansatz nutzte einen statischen System-Prompt mit einem Snowflake-Schema-Dump.

Vercel baut Infrastruktur für das Web und agentische Anwendungen, um Entwicklern die Skalierung zu erleichtern. Vor etwa einem Jahr startete Andrew Qu ein Experiment, um die Produktivität des Datenteams zu steigern, das durch repetitive Kunden- und Metriken-Anfragen belastet war. Ein erster Mega-Prompt mit Snowflake-Daten zeigte zwar prinzipielle Machbarkeit, war jedoch fehleranfällig und erforderte manuelles Eingreifen.

Entwicklung von D0 und der Übergang zum Dateisystem-Agenten

  • Die zweite Version D0 unterteilte Workloads in dedizierte Agenten für Planung, SQL-Ausführung und Reporting.
  • Komplexere Mega-Agenten scheiterten an unvorhersehbaren Fragen aus der Praxis.
  • Claude Code und Opus 4.5 brachten den Durchbruch durch die Nutzung eines minimalen Dateisystem-Ansatzes mit Bash- und Datei-Tools.

Nach ersten Teilerfolgen wurde D0 zu einer kaskadierten Agenten-Architektur ausgebaut. Trotz eigener interner Tests stieß dieses System bei echten Nutzern an Grenzen, weil komplexe Szenarien nicht vollständig im Voraus abgebildet werden konnten. Erst die Kombination aus Claude Code und Opus 4.5 demonstrierte die Überlegenheit eines flexiblen Dateisystem-Agenten, der eigenständig in einer Sandbox agieren kann.

Einführung von Skills und Veröffentlichung des Frameworks Eve

  • Wiederkehrende Abfragen wurden in rund 100 wiederverwendbare Skills gebündelt, um den Kontextstart zu beschleunigen.
  • Das vor zwei Wochen veröffentlichte Framework Eve überträgt das Next.js-Konzept auf Agenten.
  • Vercel setzt intern auf 20 produktive Agenten von der Rechtsabteilung bis zum Marketing.

Durch das Hinzufügen eines Skills-Ordners starten Agenten nicht mehr bei Null, sondern greifen auf bewährte Aggregationen zurück. Das darauf basierende Open-Source-Framework Eve ermöglicht die einfache Erstellung von Agenten über standardisierte Ordnerstrukturen wie Skills und Tools. Unternehmen wie Aura nutzen Eve bereits erfolgreich, und Vercel automatisiert damit erfolgreich interne Prozesse wie die Vertragsprüfung.

커뮤니티 글

아직 글이 없습니다. 이 영상에 대한 첫 번째 글을 작성해 보세요!

이 영상에 대해 글쓰기