Вашей компании стоит обучать собственные ИИ-модели — Уилл Браун, Prime Intellect

하이라이트

• Компания Prime Intellect разрабатывает инструменты в сфере ИИ-инфраструктуры для обучения, развертывания и непрерывного улучшения открытых моделей.

• Компания Paper Instruments обучила специализированную модель за 300 000 долларов, которая оптимальна по границе Парето для интеллектуальной работы вроде электронных таблиц и презентаций.

• Современные агенты учатся преимущественно через контекстное обучение и файлы навыков, однако они не получают скрытых институциональных знаний сотрудников организации.

• Ночной цикл обучения позволяет задействовать мощности вывода, простаивающие ночью, для непрерывного обновления весов моделей на основе дневных трассировок.

• Организации используют тесты и оценки в качестве базы для жизненного цикла моделей, превращая их в подобие кодовой базы.

타임라인

1. 00:00 - 03:44

   Эволюция корпоративного ИИ и роль организации

   Сфера искусственного интеллекта стремительно развивается, переходя от базовых чат-ботов к моделям рассуждения и автономным агентам. На этом фоне возникает вопрос о том, как крупные предприятия будут интегрировать ИИ во все свои процессы. Компания Prime Intellect занимается созданием инструментов для обучения и непрерывного улучшения открытых моделей, чтобы организации могли использовать их в собственных средах и приумножать институциональные знания.

   • Индустрия прошла путь от чат-ботов до агентов и инноваторов быстрее, чем предполагалось изначально.
   • Компания Prime Intellect создает инфраструктуру для обучения и развертывания открытых моделей на собственных данных компаний.
   • Открытые модели позволяют организациям накапливать институциональные знания и преимущества от рабочих процессов.
2. 03:44 - 09:24

   Неявные знания организаций и ограничения контекста

   Долго работающие организации накапливают колоссальный объем неявных знаний, которые не фиксируются в официальных документах или кодовых базах. Агенты эффективно справляются с обработкой неструктурированной информации и обнаружением организационных проблем. Тем не менее, текущий подход к обучению агентов через контекст и файлы навыков заставляет их заново открывать вещи и приводит к высоким затратам на кэшированные входные токены.

   • Большая часть ценных знаний компании хранится в головах сотрудников и в неструктурированных текстах, а не в явных правилах.
   • Агенты способны анализировать большие объемы текстовых данных и выявлять неэффективность в рабочих процессах.
   • Кэшированный ввод создает узкое место и увеличивает затраты на работу агентов при постоянной обработке больших объемов данных.
3. 09:24 - 17:10

   Переход от правил к весам и непрерывное обучение

   Чтобы модели действовали как настоящие коллеги, их предпочтения и эвристики должны закладываться непосредственно в веса, а не только храниться в текстовых файлах. Организации могут относиться к моделям как к кодовой базе, добавляя тесты и собирая трассы с отзывами пользователей. Это формирует надежную основу для запуска реальных циклов непрерывного обучения.

   • Контекстные предпочтения пользователей можно переносить из файлов памяти напрямую в веса моделей через обучение.
   • Тестирование и оценки служат основой для управления жизненным циклом модели подобно кодовой базе.
   • Модели принятия решений позволяют автоматизировать выбор между крупными и мелкими моделями для оптимизации затрат.
4. 17:10 - 20:06

   Практическая реализация и ночные циклы обучения

   Практические примеры показывают, что инвестиции в обучение собственных моделей становятся жизнеспособной стратегией для организаций. Сбор дневных трассировок и запуск ночных процессов обучения позволяют эффективно использовать вычислительные ресурсы. В результате компании получают самосовершенствующиеся системы, которые со временем работают все лучше и точнее.

   • Компания Paper Instruments успешно обучила специализированную модель за 300 000 долларов для работы с таблицами и презентациями.
   • Ночной цикл обучения задействует простаивающие мощности для обновления весов моделей на основе дневных трассировок.
   • Интеграция открытых моделей с внутренними данными позволяет организациям создавать самосовершенствующиеся системы.