Мозг против рук: как безопасно запустить ИИ-агентов в продакшн — Вирен Барайя

하이라이트

• При разделении обязанностей недетерминированная LLM отвечает только за планирование, а детерминированная обвязка — за гарантированное выполнение действий.

• Использование LLM позволяет заменить динамически ветвящиеся рабочие процессы: для $N$ инструментов агент может составить $N$ различных комбинаций во время выполнения.

• Продакшн-обвязка может работать от нескольких секунд до дней и месяцев, что делает встроенную надежность (durability) и устойчивость к сбоям минимальным входным требованием.

• Разработанный SRE-агент за одну итерацию планирует и компилирует сразу последовательность шагов в рабочий процесс Conductor, исключая выполнение дублирующих операций вроде повторного отката.

타임라인

1. 00:00 - 03:48

   Эволюция агентов от простых чат-ботов к автономным приложениям

   Разработка агентов начинается с базовых вызовов функций, однако полноценные продакшн-решения требуют иных архитектурных форм. Агенты функционируют как фоновые воркеры, прослушивают логи OpenTelemetry в реактивном режиме или координируют долгоиграющие процессы. Чтобы избежать галлюцинаций, вместо одного универсального агента создается сеть специализированных сервисов. В результате агентская обвязка становится полномерным приложением, решающим конкретные бизнес-задачи.

   • Базовые примеры вызова функций в LLM дают искаженное представление о реальных продакшн-системах.
   • Продакшн-агенты выходят за рамки диалоговых чат-ботов и включают фоновые процессы, задачи по расписанию и обработку событий.
   • Архитектура мультиагентных систем повторяет принципы микросервисов с единственной ответственностью.
2. 03:48 - 07:36

   Анатомия обвязки: сочетание недетерминизма и строгой логики

   Автономное приложение обязано изолировать недетерминизм языковой модели от выполнения рискованных действий, таких как платежи или перезапуск инфраструктурных кластеров. Для подобных процессов применяется жестко заданный порядок шагов, гарантирующий одинаковый результат при каждом запуске. Поскольку длительность работы процессов может составлять месяцы, инфраструктура обвязки должна штатно переносить перезапуски узлов и разделения сети.

   • Обвязка объединяет недетерминированное мышление LLM с детерминированным выполнением кода.
   • Критически важные операции требуют строго предсказуемого и идемпотентного сценария.
   • Надежность и способность к восстановлению после сетевых сбоев являются обязательным свойством обвязки.
3. 07:36 - 11:49

   Разделение концепций: «мозг» против «рук» и агенты как саги

   Основной принцип безопасного применения агентов состоит в полном отделении планирования от исполнения. Языковая модель формирует последовательность шагов, однако вызовы API, проверки безопасности и запросы подтверждения в Slack осуществляет детерминированный код. В отличие от классических жестко запрограммированных саг, агентские системы формируют комбинации инструментов непосредственно в процессе работы.

   • Языковая модель генерирует план действий, а обвязка берет на себя его фактическую реализацию.
   • Запросы на подтверждение человеком фиксируются на уровне исполнения, исключая галлюцинации LLM.
   • Агентские обвязки представляют собой саги с поздним связыванием шагов во время выполнения.
4. 11:49 - 16:39

   Практическая демонстрация SRE-агента на платформе Conductor

   На примере SRE-агента показан цикл поиска и устранения неисправностей. На первой итерации LLM выдает цепочку действий, которая компилируется в исполняемый процесс оркестратора Conductor для сбора метрик и выполнения отката. На следующем витке агент оценивает обновленное состояние системы, фиксирует успешность выполненного отката и переходит к проверке зависимых компонентов без дублирования прошлых операций.

   • SRE-агент анализирует логи, формирует многошаговый план и компилирует его в рабочий процесс Conductor.
   • Второй цикл адаптивно учитывает изменения состояния и предотвращает повторное выполнение уже сделанных действий.
   • Платформа Conductor с открытым исходным кодом обеспечивает оркестрацию агентных циклов и фреймворков.