Управление без хаоса: как Mercor открыла возможности для сотен разработчиков с помощью Vercel
원제 · Control Without the Sprawl: How Mercor Unlocked Hundreds of Builders with Vercel
핵심 요약
Внедрение стандартных платформ вроде Vercel Passport и AI Gateway позволяет безопасно масштабировать инфраструктуру до 2 000 проектов и обрабатывать миллиарды токенов без превращения службы безопасности в узкое место.
하이라이트
Платформа Mercor выросла с менее чем десятка проектов в прошлом году до 2 000 проектов в текущем, причем большинство создано командами вне инженерной организации.
Интеграция Vercel AI Gateway обеспечила обработку 80 миллионов запросов и 63 миллиардов токенов за первые 10 дней после запуска.
Время пакетной оценки языковых моделей сократилось с 12 часов до двух часов после перехода на единый шлюз.
Подключение модели GLM 5.3 заняло несколько дней без утомительных процедур закупок, предоставив 300 миллионов токенов в минуту.
Автоматизированное управление доступом через Vercel Passport и инструмент аудиторий позволяет предоставлять доступ сотням тысяч экспертов с отзывом прав по завершении проекта.
타임라인
Масштабирование проектов и проблема безопасности
Стремительное развитие бизнеса и постоянные спринты исследовательских команд создавали нагрузку на инфраструктуру. Традиционные ручные проверки безопасности стали узким местом, провоцирующим поиск обходных путей. Стандартизация идентификации через Vercel Passport объединила сотрудников и экспертов в единую систему с автоматическим отзывом прав.
- Компания Mercor связывает отраслевых экспертов с передовыми лабораториями.
- Количество проектов увеличилось с менее чем десятка в прошлом году до 2 000 текущих проектов.
- Инструмент Vercel Passport заменяет разрозненные решения для авторизации единым стандартом.
- Доступ для сотен тысяч внешних экспертов управляется автоматически и закрывается по окончании проекта.
Инфраструктура инференса и экономика токенов
Огромный объем запросов от экспертов потребовал отказа от ручного согласования лимитов с провайдерами инференса. Интеграция шлюза ускорила внедрение новых моделей, включая GLM 5.3, за считанные дни выделив 300 миллионов токенов в минуту. Встроенные защитные механизмы обеспечивают лимиты для каждого ключа, нулевое хранение данных по умолчанию и консолидацию всех расходов в один счет.
- Сто тысяч экспертов используют языковые модели для навигации по проектам, контроля качества и генерации данных.
- Переход на Vercel AI Gateway объединил доступ к открытым и закрытым моделям через единую точку входа.
- За первые 10 дней шлюз обработал 80 миллионов запросов и 63 миллиарда токенов.
- Время пакетной оценки сократилось с 12 часов до двух часов.
Управление автономными агентами и перспективы платформы
Масштабирование с помощью агентов создает новые риски утечки данных, если они наследуют пользовательские привилегии. Ограничение прав агентов через белые списки моделей, отдельные ключи и бюджеты предотвращает неконтролируемый выход за рамки песочницы. Автоматизация инфраструктуры на уровне платформы позволяет бизнесу расти без ущерба для безопасности и скорости разработки.
- Автономные агенты действуют как самостоятельные стажеры, требуя строгой изоляции и отдельных разрешений.
- Агентам присваиваются собственные ключи шлюза, отдельные рамки задач, сроки действия и лимиты расходов.
- Безопасный путь должен оставаться самым быстрым и простым путем для разработчиков во всем бизнесе.
설명
Vercel.com