От идеи к реализации: Как AISDK5 помог нам создать ИИ-нативную CRM

Джек и Никита представляют Lightfield, AI-нативную CRM, которую они создали с использованием AISDK. Спикеры объясняют фундаментальную проблему традиционных CRM: они были разработаны десятки лет назад с предположением, что люди будут вручную вводить данные, но в реальности контекст разговоров остаётся разбросанным по Slack, почте, Zoom-записям и Google Docs. Традиционные CRM предлагают жёсткие поля и предустановленные схемы, но становятся просто инструментом отчётности для VP отдела продаж, а не помощником в продажах. Авторы описывают распространённый сценарий: когда в компании 10-50 клиентов, сотрудники начинают искать информацию о клиентах по разным системам вместо того, чтобы обращаться к единому источнику истины.

Lightfield переосмысляет CRM как систему памяти и действий, которая автоматически захватывает разговоры, встречи и письма, структурируя их без ручного ввода. Система поддерживает схемы списков и пользовательские схемы, не требуя предварительной настройки. Ключевая архитектурная особенность: три разных интерфейса (UI для людей, агенты на основе естественного языка, рабочие процессы для автоматизации) взаимодействуют через единый унифицированный уровень данных с объектами домена. Агенты имеют те же разрешения, видимость и операции, что и люди, действуя через одинаковую бизнес-логику. Спикеры подчёркивают, что создание AI-native с нуля лучше, чем добавление агентов к устаревшим системам, так как это позволяет избежать отдельных API с ограниченным доступом.

При выборе инструментов для построения Lightfield команда нуждалась в примитивах, которые не заставили бы использовать разные архитектуры для агентов и пользователей. Это требование повлияло на весь стек, включая выбор фреймворка ИИ. Команда оптимизирует скорость обучения выше совершенства, используя в Lightfield концепцию, где инженеры могут просто спросить систему вместо навигации по CRM через интерфейс. AISDK предоставил гибкость для итерации без переписывания всего. Спикеры ссылаются на цитату Сэнди Метц: «Дублирование намного дешевле, чем неправильная абстракция», что особенно актуально при создании AI-продуктов. Команда начала с AISDK V4 в январе, затем плавно внедрила альфа V5 в июне, благодаря чему функции появляются в фреймворке почти непредсказуемо быстро.

Lightfield использует адаптивный сбор контекста, где пользователь просто спрашивает, что произойдёт дальше по аккаунту, не указывая конкретный аккаунт или встречу. AISDK предоставляет API Data Parts, который позволяет отправлять сигналы от клиента серверу, строящему контекст. На клиенте используются разные сущности и сигналы, которые полностью гидрируются на сервере. Для безопасной работы с файлами вместо прямого кодирования или раскрытия S3-адресов клиент отправляет серверу внутренний ID файла. На сервере все части файла переводятся в подписанные URL S3, позволяя внешним LM-провайдерам просматривать файлы, но время истечения подписей предотвращает несанкционированный доступ. Этот подход решает практические проблемы масштабируемости и защиты приватных данных пользователя.

Lightfield использует концепцию контекстных коллекций инструментов, где для каждого пользователя динамически создаётся набор инструментов, специфичный для этого пользователя. Зависимости внедряются непосредственно в инструменты, например ID пользователя внедряется прямо в инструмент получения данных, так что LLM никогда напрямую не выдаёт запросы к базе данных. Всё проходит через тот же унифицированный уровень данных, который пользователь получает через остальной интерфейс CRM. Когда пользователь может создавать сущности CRM через модальный интерфейс в UI, команда хочет, чтобы он мог делать то же через интерфейс на основе чата. LLM может выполнить вызов инструмента для создания этих объектов и будет отображать форму с теми же входами, что показаны в пользовательском интерфейсе.

Lightfield использует абстракции человека в цикле обратной связи из AISDK для обеспечения полного контроля пользователя. Когда LLM выполняет вызов инструмента, требующий подтверждения, он пересылает этот вызов на клиент фронтенда, который отображает интерфейс и добавляет результат инструмента в зависимости от действия пользователя. На сервере перед отправкой вывода LLM выполняются функции на основе редактирования пользователя. Пользователь видит первоначально предложенные значения, может их редактировать, и получает полную видимость результатов выполнения (успех или неудача). Это обеспечивает полную прозрачность и историю взаимодействия, давая LLM возможность предложить надлежащие дальнейшие шаги. Система также поддерживает пользовательское одобрение перед выполнением высокорисковых операций, таких как отправка писем, и отправляет уведомления, чтобы пользователи оставались в курсе каждой сделки.

Lightfield позволяет пользователям построить пользовательскую модель данных для каждой сущности CRM, например отслеживать техстек клиента, размер инженерной команды и общих инвесторов. Пользователи могут предоставить дополнительные инструкции по значениям этих полей и как агент должен их использовать. Все эти типизированные поля производны из конфигурации компании, и когда LLM предлагает значения, система проверяет типы на соответствие схеме. В разделе знаний можно предоставить LLM дополнительный контекст о бизнесе, включая информацию о продуктах и инструкции для фоновых рабочих процессов. Перед встречей Lightfield подготавливает документ с ключевыми участниками, информацией об аккаунте и важными вопросами, а после встречи предлагает пункты повестки дня и обновления полей. Спикеры завершают, выделяя четыре основных принципа: паритет безопасности UI-агента, быстрая итерация вместо совершенной абстракции, рабочие процессы с доверием человека и программируемость системы как пользователями, так и агентами.