Без памяти, без обвязки: почему база данных — это последний рубеж обороны — Кэй Малкольм, Oracle
AAI Engineer
컴퓨터/소프트웨어경영/리더십AI/미래기술
스크립트
00:00:00Таня Кашман Рецензент: Питер ван де Вен
00:00:12Всем привет, вам весело?
00:00:15Ой, от вас нужно гораздо больше энергии.
00:00:18Итак, позвольте представиться, меня зовут Кей Малколм.
00:00:21Я профессиональный инструктор по хип-хопу на пенсии.
00:00:24Так что, если у вас не будет больше энергии, мы начнем...
00:00:28вам весело?
00:00:30Ладно, хорошо.
00:00:32Итак, вот о чем мы сегодня поговорим.
00:00:36Вы, ребята, наверняка много слышали о двух буквах.
00:00:39Кто-нибудь хочет угадать, что это за две буквы
00:00:41и о чем я сегодня буду говорить?
00:00:43Неплохо, DB.
00:00:48Я буду говорить об ИИ," },
{ "index14
00:00:50но конкретно я буду говорить об обертках для агентов.
00:00:54Но прежде чем я это сделаю, я хочу представить вам нескольких людей.
00:00:57Вы не против?
00:00:59Да или да?
00:01:00Вы не против?
00:01:01Да.
00:01:02Я предоставила выбор.
00:01:04Да?
00:01:04В общем.
00:01:05Ладно.
00:01:05Ладно, хорошо.
00:01:06Это моя команда.
00:01:09Я руководжу командой управления продуктами для баз данных в Oracle.
00:01:14Я работаю в Oracle очень давно, целых 20 лет.
00:01:17Забавная история.
00:01:18Я начала в 12 лет, так что не нужно ничего считать
00:01:21и складывать в уме.
00:01:24И у нас есть проблема.
00:01:27Проблема в том, что у меня есть одна группа, которая занимается разработкой платформ.
00:01:33А еще у меня есть другая группа, которая создает контент для Live Labs,
00:01:37платформы, которую я написала сама.
00:01:40Так что да, я инженер, но в какой-то мере и псевдоразработчик.
00:01:44И еще у меня есть группа контроля качества.
00:01:48А также группа, которая занимается фронтенд-разработкой.
00:01:52С появлением ИИ вот что я поняла как руководитель.
00:01:57Потому что в эпоху максимального использования токенов в 2025 году, ведь мы же больше не максимизируем токены, верно?
00:02:05Теперь мы используем ответственный ИИ.
00:02:08Но в эпоху максимального использования токенов я обнаружила, что, хотя ИИ делал отдельных сотрудников
00:02:15моей команды быстрее, он создавал другую проблему.
00:02:23Он не делал мою команду более продуктивной.
00:02:28И причина заключалась в том, что когда одна команда из Нидерландов отправляла код в 4 часа утра по моему времени,
00:02:37потому что половина моей команды находится в регионе EMEA, а вторая половина — здесь, в США.
00:02:43Они отправляли код, но не передавали контекст из кодекса.
00:02:49Мы используем кодекс в Oracle.
00:02:51Поэтому, когда команда из США просыпалась,
00:02:56они получали код, но никакой информации о контексте.
00:03:00Итак, мы использовали ИИ для решения проблемы, которую создал сам ИИ.
00:03:07И вот что мы сделали.
00:03:08Хотя нет, сначала я расскажу о другом.
00:03:10Итак, о некоторых проблемах.
00:03:12Контекст, как я уже сказала, не передавался.
00:03:15GitHub это не отслеживал.
00:03:18Мои репозитории расходились.
00:03:21И я спрашивала менеджеров, которые работают на меня: что происходит с вашими командами?
00:03:26Почему мы не движемся быстрее?
00:03:29Мы тратим столько денег на токены.
00:03:31Мы тратим столько денег на ИИ.
00:03:33И все же чего-то не хватает, потому что мы по-прежнему тратим время
00:03:37на тестирование и валидацию.
00:03:39Так что наш конечный результат нас не очень устраивал.
00:03:45Потому что Git записывает код, а не человеческий замысел.
00:03:49Так что это проблема.
00:03:50И хотя создание кода больше не было нашей проблемой, у нас все равно оставалось узкое горлышко.
00:04:03Нам нужен был уровень для совместной работы.
00:04:05Кстати, в аудитории есть члены моей команды.
00:04:10Так что не судите меня строго.
00:04:12И вы знаете, кто вы.
00:04:13Я не говорю, что вы все не сотрудничали.
00:04:17Но теперь у нас появился новый член команды.
00:04:20И этот новый член команды — ИИ.
00:04:23Поэтому нам нужно было выяснить, как отслеживать наш прогресс и следующие шаги.
00:04:29Как рационализировать решения, которые принимал агент.
00:04:39Нам нужно было понять, как разрешать вопросы и конфликты.
00:04:45Так.
00:04:48Запомните мою проблему.
00:04:49Не могли бы вы подержать ее в уме?
00:04:51Прямо здесь.
00:04:51Мы просто отложим ее в коробочку.
00:04:54Позвольте мне дать определение корпоративного агента.
00:04:59Большинство людей думают, что корпоративный агент — это модель и рабочий процесс.
00:05:05Сколько человек со мной согласны?
00:05:08Блин, какая-то тяжелая аудитория.
00:05:10Ладно, один человек.
00:05:12Ладно, остальные считают, что дело в чем-то большем.
00:05:14Хорошо, давайте посмотрим.
00:05:18Может ли быть так, что у настоящего корпоративного агента есть инструменты?
00:05:26Инструменты — это то, с помощью чего он все делает.
00:05:30Контекст.
00:05:33Контекст — это окно контекста.
00:05:35Это то, что находится в самом промпте.
00:05:39Память.
00:05:43И если вы думаете: но погоди, Кей, память...
00:05:46Ты только что сказала, что модель — это вроде как мозг всей операции.
00:05:51Погодите-ка.
00:05:52Мы поговорим о памяти чуть подробнее.
00:05:55Извлечение.
00:05:57Потому что вам не нужно вытаскивать абсолютно все.
00:05:58То есть это способность извлекать именно нужную информацию.
00:06:03И еще, я знаю, что здесь много разработчиков, и вам плевать на безопасность.
00:06:11А мне не плевать на безопасность.
00:06:13Потому что я работаю в самой защищенной компании баз данных.
00:06:17И раньше я работала в одном ведомстве, у которого нет названия.
00:06:22Но защитные механизмы тоже важны.
00:06:25Это и есть обертка.
00:06:27Я говорю метафорами и рассказываю истории.
00:06:31Потому что, если я упомяну это и Марвел, вы сразу поймете, о чем речь.
00:06:38Итак, представьте агента как маленький мозг модели, плавающий в стеклянной банке.
00:06:46Плюс эта обертка.
00:06:49Эта обертка — тело.
00:06:52То есть с ее помощью агент может реально что-то делать и добиваться результатов.
00:06:58Память — это часть центральной нервной системы.
00:07:03И вы помните, центральная нервная система соединяет мозг с остальным телом.
00:07:08Ногами, руками.
00:07:10Это та часть центральной нервной системы, которая переносит контекст.
00:07:16Вы же помните мою проблему с git?
00:07:20Все, что мне было нужно — это память.
00:07:21Ладно.
00:07:22Существует несколько типов памяти.
00:07:26Я выбрала пять, самых распространенных, о которых все говорят.
00:07:29И это те типы, которые я хочу, чтобы вы запомнили.
00:07:32Первый — краткосрочная память.
00:07:34Это сеанс, верно?
00:07:36И если вы сохраняете память процесса ИИ, то краткосрочная память — это...
00:07:44если вы используете чат, cloud code, да, codex, выбирайте на свой вкус.
00:07:49Долгосрочная память сохраняется между сеансами.
00:07:55Эпизодическая память, хмм, что произошло в прошлый раз, когда я взаимодействовала с тем-то и тем-то?
00:08:06Это ваша эпизодическая память.
00:08:09Процедурная память.
00:08:11Инструменты.
00:08:12Предпринятые шаги.
00:08:15И наконец, семантическая память.
00:08:17Семантическая память, потому что мы говорим о корпоративных агентах.
00:08:21Мы не говорим об агенте, которого создала я, Саша Фирс.
00:08:25Ведь помните, я говорила вам, что я танцовщица.
00:08:28Так что, конечно же, моего руководителя аппарата будут звать Саша Фирс, ведь так звали альтер-эго Бейонсе.
00:08:34Есть фанаты Бейонсе?
00:08:37Ладно, извините.
00:08:38Так.
00:08:38Надо сосредоточиться.
00:08:40Ладно.
00:08:40Итак, это типы памяти.
00:08:43Теперь, когда вы определяете этого реального корпоративного агента и эту память,
00:08:49нужно учесть еще кое-что: где ее хранить.
00:08:53И поэтому я расскажу вам одну историю.
00:08:55Но когда я буду ее рассказывать, вы пообещаете мне, что не будете меня судить.
00:09:00Обещаете?
00:09:06Вы обещаете?
00:09:08Вы же меня не записываете, правда?
00:09:10Потому что это выставляет меня не в лучшем свете.
00:09:12Ладно.
00:09:12Хорошо.
00:09:12Мир данных был когда-то простым.
00:09:14Я давно работаю в Oracle, но пришла туда от заказчика.
00:09:17Этот заказчик назывался Southern Company.
00:09:19Это была энергетическая компания.
00:09:20Я сама из Атланты.
00:09:22И меня наняли в Southern Company, потому что я была просто звездой оптимизации производительности.
00:09:28У вас был SQL-запрос.
00:09:29То есть, я выдаю свой возраст, ну и ладно.
00:09:31У вас был SQL-запрос.
00:09:32Я знала все параметры init.ora.
00:09:34Даже те, о которых в техподдержке говорили:
00:09:36не помните их.
00:09:37Не записывайте.
00:09:38Я записывала их в свой блокнотик.
00:09:40Я могла оптимизировать запрос до абсолютного идеала.
00:09:43Затем кто-то из вас подходил к моему столу...
00:09:47Потому что мир состоял из строк и столбцов.
00:09:50Это было прекрасное время моих дней в стиле Эла Банди.
00:09:55И этот человек говорил: «Эй, мне нужно хранить неструктурированные данные».
00:10:01Зачем?
00:10:02Зачем вам это делать?
00:10:04И поэтому я, будучи Кеи, старательным администратором БД, отвечала:
00:10:09«Дайте мне разобраться, и я вернусь к вам с ответом».
00:10:13Вернулась ли я к нему?
00:10:16Я к нему не вернулась.
00:10:18Теперь нужно учесть одну особенность Southern Company:
00:10:21на каждую систему баз данных, которую администрировал специалист,
00:10:24мне приходилось посещать два совещания.
00:10:26Сегодня, когда я слышу о Сарбейнсе-Оксли,
00:10:28меня до сих пор слегка подташнивает.
00:10:31Так что мне нужно было ходить на совещание по безопасности и по патчам.
00:10:34Каждую неделю.
00:10:35Без исключений.
00:10:37И вот из-за того, что этот разработчик установил специализированную базу данных для неструктурированных данных...
00:10:44Ладно, здесь собрались очень умные люди.
00:10:46На сколько совещаний я теперь хожу?
00:10:54На четыре.
00:10:55Ладно, я немного раздражена, но думаю: ладно, мы справимся.
00:10:59Затем они сказали: «Кей, раз ты такой хороший специалист по оптимизации,
00:11:03мне нужно, чтобы ты разобралась с этой взаимосвязью».
00:11:06В Southern Company всё было устроено так:
00:11:08было приложение «люди могут погибнуть».
00:11:11Оно напоминало телефон Nokia, которым пользовались те, кто поднимался на вышки, верно?
00:11:18Вы же попадали в шторм, когда отключается электричество, правда?
00:11:22И вы вполне уверены, что примерно через час-два свет дадут.
00:11:27Так вот, та система, которая подсказывала людям, карабкающимся на эти деревья
00:11:32и рискующим жизнью ради восстановления питания, иногда выдавала ложноположительные
00:11:37или ложноотрицательные результаты.
00:11:39Поэтому они хотели проверить все остальные опоры в этом районе,
00:11:46чтобы избавиться от ложных срабатываний.
00:11:50И я реализовала это с помощью SQL-запроса.
00:11:52Это было потрясающе.
00:11:53Это был пятикратно вложенный оператор union all.
00:11:57Это была одна из моих лучших работ.
00:11:59Пусть выполнение занимало минут двадцать, но это было вроде предшественника графовых баз.
00:12:06Да, они установили Neo4j.
00:12:10Итак, на сколько совещаний я теперь хожу?
00:12:13На шесть.
00:12:14Это проблема.
00:12:16И тогда я — ой, погодите, я забегаю вперед.
00:12:19Знаете, что я сделала?
00:12:20Я уволилась.
00:12:23Я ушла и пришла в Oracle, потому что подумала: это проблема, и, может быть, я смогу перейти в Oracle
00:12:26и помочь ее решить.
00:12:27И тогда мне позвонил Джо Манди и сказал: «Эй, мы устанавливаем Redis.
00:12:33Oracle опаздывает к этому празднику жизни.
00:12:35У нас есть векторная база данных».
00:12:37Понятно.
00:12:40Но в чем проблема, Джо?
00:12:45Агентам теперь нужен доступ ко всем этим данным.
00:12:49И если данные находятся в базе данных Oracle, затем также в неструктурированной JSON-базе,
00:12:55если они в графовой базе и в векторной базе, где ваш единственный источник правды?
00:13:03Агент должен сам это выяснить.
00:13:04Иногда он делает все правильно.
00:13:08Чаще всего он ошибается, и при этом сгорает куча токенов.
00:13:12И теперь, если вы хотите где-то хранить свою память, вы можете сохранять ее в файловой системе.
00:13:20Вы можете хранить ее в Claude или ChatGPT, ведь все мы знаем про файл memory.md.
00:13:29Но это создаст проблемы.
00:13:31И я хочу это проиллюстрировать.
00:13:32Мне нужны четыре добровольца.
00:13:33Я вас вижу.
00:13:34Поднимите руку.
00:13:35Раз.
00:13:36Два.
00:13:37Так, погодите.
00:13:38Три.
00:13:40Мне нужен четвертый.
00:13:41Ага, четвертый сзади.
00:13:42Хорошо, четвертый сзади.
00:13:44Вы будете нашим старым надежным другом.
00:13:47Вы будете реляционной базой данных.
00:13:48Согласны?
00:13:50Вы получили свою роль?
00:13:52Хорошо, а кто-то был здесь.
00:13:54Вы будете моей неструктурированной базой данных.
00:13:57И где мой другой... а, отлично.
00:14:00Вы будете моей графовой базой данных.
00:14:02Вам подходит?
00:14:02Специалист по связям.
00:14:03Вы выглядите как человек, знающий толк в связях.
00:14:05Отлично, хорошо.
00:14:06Четвертый.
00:14:06Где мой четвертый?
00:14:09Это вы?
00:14:09Да.
00:14:10Да, вы моя векторная база данных, хорошо?
00:14:15А теперь все ведите себя очень-очень тихо.
00:14:20Мои четверо добровольцев, мне нужно от вас кое-что.
00:14:24Я кое-что вам скажу,
00:14:27и вам нужно будет решить, как это сохранить,
00:14:31и у кого будет единственный источник правды.
00:14:33Вы не можете вставать со своих мест и должны шептаться,
00:14:37потому что, если будете говорить громко, это плюс пять лишних токенов для вас.
00:14:40Договорились?
00:14:41Ладно, мы готовы?
00:14:42Итак.
00:14:44Корова перепрыгнула через луну.
00:14:48Поехали.
00:14:51Хм.
00:14:53Это ведь не особо работает, да?
00:14:55В этом и проблема.
00:14:56Да.
00:14:58Oracle... И даже если вы забудете все остальное,
00:15:02если вы забудете всё, что я говорю, но запомните одну вещь:
00:15:06Oracle — совсем не та Oracle, какой вы ее себе представляете.
00:15:09Именно поэтому я здесь сегодня.
00:15:11Многие ли из вас знали, что Oracle способна нативно,
00:15:15в одной и той же таблице, вплоть до конкретного раздела,
00:15:19хранить JSON, графы, векторы — мой друг по векторным базам вон там,
00:15:24мой друг по JSON, пространственные данные?
00:15:27Хотите, чтобы ваша память была неизменяемой?
00:15:30Разве блокчейн не поддерживается в той же базе данных?
00:15:32Поднимите руку.
00:15:34Да.
00:15:36У нас проблемы с маркетингом.
00:15:39Так что любые типы данных можно хранить в базе данных 26AI.
00:15:44Любые нагрузки.
00:15:46В любом месте.
00:15:47AWS, GCP, Azure, OCI, локально.
00:15:52Выбор и гибкость.
00:15:54Итак, теперь, когда мы берем это и говорим об агенте,
00:15:57я хочу хранить свою долговременную и процедурную память в реляционной базе.
00:16:02В JSON я хочу хранить краткосрочную и долговременную память.
00:16:05В графовой — процедурную, потому что процедурная определяет взаимосвязи,
00:16:09верно, шаги.
00:16:11Для эпизодической и семантической памяти мне нужны векторы, а также хранение в виде текста.
00:16:17Теперь, если у меня четыре разные базы данных, вы все видели, они не могут общаться друг с другом.
00:16:25Это станет проблемой.
00:16:27И поэтому сегодня я говорю вам, что Oracle AI Database — лучшее место для хранения памяти этого агента,
00:16:35которая будет управлять вашей оболочкой.
00:16:38Помните: ваша оболочка — это тело, а эта память — ваша центральная нервная система.
00:16:44Ладно, вернемся к Poly.
00:16:46Итак, проблему, которая у меня была, мы решили с помощью брокера памяти по имени Poly.
00:16:51Мы использовали память агентов.
00:16:54Мы ушли от этой автоматической непрерывности.
00:16:57Моя команда могла делиться не только кодом, но и контекстом, который отслеживал Poly.
00:17:07Так что, если одно окно контекста содержало процедурную память, эпизодическую, информацию о долговременной памяти,
00:17:15это затем передавалось остальным участникам команды.
00:17:19Их можно назвать агентами, если хотите.
00:17:21Это просто человеческие агенты.
00:17:23Общий доступ между форками.
00:17:26Разработчики в команде сохраняли контроль, пока Poly создавал контекст,
00:17:35определяя, какому форку и ветке он принадлежит и какому коммиту соответствует.
00:17:41Это очень простой пример, но когда вы переносите это в корпоративную среду, происходит вот что.
00:17:49Память становится тем фактором, которым нельзя пренебречь в оболочке агента.
00:17:53Вот три статьи, которые я прочитал в самолете.
00:17:59Первая — от OpenAI, она посвящена их собственному агенту данных.
00:18:03И в ней говорится о том, что их собственному агенту данных на самом деле необходима память.
00:18:11Память была крайне важна, чтобы агент мог правильно фильтровать данные вместо того, чтобы просто сопоставлять строки.
00:18:19Харрисон Чейз сказал: “Ваша оболочка, ваша память, и если вы не владеете своей оболочкой, вы не владеете своей памятью”, что является ключевым.
00:18:27И я уверен, вы все задаетесь вопросом: “Но ведь у Claude есть память. Почему я не могу ее использовать?”
00:18:32Ну, это похоже на файловую память, и это работает для одного пользователя, но точно так же, как в моем примере,
00:18:38когда вы выходите за рамки одного пользователя — а в компании вы обязательно выйдете — это создает проблему.
00:18:45Поэтому у Oracle есть пакет Oracle Agent Memory.
00:18:51PIP install Oracle Agent Memory — и вы получаете доступ к нему; этот наш SDK
00:19:00будет удерживать ваши живые беседы, воспоминания, факты
00:19:05и определять, что стоит сохранять. Итак, если мы посмотрим на Poly: теперь Кевин может поделиться контекстом с Poly,
00:19:14нашим брокером памяти. Мы используем SDK Oracle Agent Memory. Все хранится в Oracle Autonomous Database.
00:19:22Мы можем использовать любую LLM по нашему выбору или локальную модель через контейнер Oracle Private AI Services.
00:19:28И тогда Линда, которая сидит прямо здесь,
00:19:34может взаимодействовать и работать с Кевином без проблем. Да, ИИ делает отдельных людей быстрее.
00:19:42Общая память в базе данных Oracle AI делает команды быстрее. Так что я не хочу, чтобы вы шли на компромиссы.
00:19:49В эпоху ИИ платформа 26AI позволяет выбирать то, что лучше всего. Для памяти агента:
00:19:58файловые системы, хранящиеся в файловой системе базы данных или в самой базе. Если нужно моделирование данных,
00:20:04у вас есть JSON, есть реляционные базы, у нас есть выбор.
00:20:09Так, у меня для вас есть полезные ресурсы. Oracle AI Developer Hub — место, где вы можете найти материалы для кода,
00:20:16приложения, о которых я сегодня говорил. LiveLabs.oracle.com. Если вы участвовали в каких-то
00:20:22наших воркшопах сегодня, то знайте, что один из них я написал сам около шести лет назад и 40 миллионов
00:20:28пользователей назад: потратьте деньги моего тестового стенда OCI, потестируйте любые технологии Oracle в течение шести или
00:20:3812 часов, сколько вам нужно. А еще я даю вам всем по Mac mini. Нет, шучу.
00:20:45Я даю вам OCI mini. Не знаю, знали ли вы, но в OCI есть тариф Always Free. Это самый
00:20:51щедрый тариф среди всех облачных провайдеров, где вы получаете бесплатную базу данных Oracle, бесплатные вычислительные мощности. Вы можете отправлять
00:20:573000 писем в месяц, 200 ГБ хранилища. И если вы перейдете по ссылке, то получите к этому доступ. Или просто
00:21:05поищите в Google Oracle Cloud, Always Free. Свяжитесь со мной. Если вы что-то построите, напишите мне
00:21:14и дайте знать? Да или да? Спасибо.
00:21:35Увидимся в следующий раз.
커뮤니티 글
아직 글이 없습니다. 이 영상에 대한 첫 번째 글을 작성해 보세요!
이 영상에 대해 글쓰기