Как сделать ИИ-агентов предсказуемыми с помощью графовой инженерии — Закари Блюменфельд, Neo4j

Highlights

• Графовая инженерия представляет собой практику проектирования работы агентов в виде явного графа, где узлы выполняют работу, а ребра передают состояние между ними.

• Интеграция графовой структуры позволяет сократить время выполнения задач почти вдвое и существенно снизить затраты на использование моделей за счет переложения маршрутизации на скрипты.

• Компиляция прозаических материалов и инструкций в детерминированные скрипты и YAML-структуры повышает общую производительность выполнения сложных задач.

• Контекстные графы объединяют краткосрочную память в виде истории разговоров, долгосрочную память с извлеченными сущностями и трассировки решений.

• Размещение уровня знаний рядом с учетными системами и базами данных обеспечивает переносимость графов между различными средами выполнения.

Timeline

1. 00:00 - 02:56

   Введение в графовую инженерию и ее типы

   Дисциплина опирается на конечные автоматы, графы рабочих процессов и графы знаний, адаптируя их под современные задачи агентов. Процедурные графы и графы контекста позволяют эффективно представлять навыки и трассировки решений, помогая агентам справляться с более крупной и сложной работой.

   • Графовая инженерия развивает идеи промпт-инженерии и контекстной инженерии на основе привычных в информатике концепций.
   • Архитектура графов разделяется на общие графы выполнения, графы контекста и процедурные графы.
   • Явный граф предоставляет возможность управлять действиями агента, направлять их и аудировать для улучшения результатов.
2. 02:56 - 06:02

   Слой знаний и память агентов в Neo4j

   Продуктовая архитектура компании объединяет основную базу данных и аналитический слой с инструментами памяти и агентским «мозгом». Данные из различных источников поступают в единый слой знаний, к которому подключаются компоненты графового искусственного интеллекта.

   • Уровень знаний располагается между источниками данных вроде Databricks, BigQuery, Snowflake и средой выполнения агентов.
   • Контекстный граф включает краткосрочную память разговоров, долгосрочную память сущностей и трассировки решений.
   • Стандартные протоколы и артефакты на уровне знаний делают графовую инженерию доступной для любой среды выполнения.
3. 06:02 - 09:21

   Компиляция навыков и повышение эффективности

   Исследования показывают, что компиляция процедурных знаний в графовую форму позволяет успешно использовать более легкие модели, такие как Haiku, даже для сложных областей вроде физики и безопасности. Это сохраняет связь навыков с прошлыми трассировками решений и историей данных.

   • Письменные материалы и файлы навыков компилируются в детерминированные структуры графа.
   • Переход на процедурный подход увеличивает показатели производительности и вознаграждения за выполнение сложных задач.
   • Версионирование и отслеживание каждого шага обеспечивают контроль дрейфа и прозрачность вызовов инструментов.
4. 09:21 - 20:25

   Практическое применение и демонстрация процесса

   Демонстрация на примере одобрения кредита показывает, как агент анализирует финансовые планы и историю транзакций с помощью контрольного следа. Программное выполнение скриптов вместо самостоятельного определения маршрутов агентом гарантирует корректность работы и предоставляет инструменты наблюдаемости.

   • Консалтинговые компании и Uber применяют графы для автоматизации аудита комплаенса и обработки региональных требований.
   • Процесс одобрения кредита объединяет данные из бизнес-планов PDF, транзакций Databricks и политик в единый граф.
   • Использование компилированных навыков в формате YAML снижает время выполнения процесса до полуминуты и сокращает расходы.