Как Revolut сократила расходы на ИИ-программирование на 90% с помощью собственных открытых моделей — Давид Абитболь, Revolut
원제 · How Revolut Cut AI Coding Costs 90% With Self-Hosted Open Models - David Abitbol, Revolut
핵심 요약
Самостоятельный хостинг открытых моделей GLM на выделенных GPU сокращает расходы на ИИ-программирование в десять раз и ускоряет выполнение задач на 70% при сохранении жестких требований регуляторов.
하이라이트
Компания Revolut использует 56 чипов B200 для хостинга открытой модели GLM 5.3 на обслуживании 2000 инженеров.
Самостоятельный хостинг открытых моделей снижает стоимость токена до 0,30 доллара за миллион, что составляет десятую часть расходов на Anthropic и OpenAI.
Оптимизация параметров инференса дает 88% улучшения производительности при росте спроса на 76% без увеличения парка графических процессоров.
Переход от FP4 к FP8 на процессорах архитектуры Blackwell сокращает видеопамять на 40% при нулевой потере точности.
Показатель кэш-хитов при кодинге с использованием открытых моделей должен превышать 90%.
타임라인
Масштабы банка и внедрение первых инструментов ИИ
Банк активно выпускает продукты, поэтому инженерная культура и требования к качеству находятся на высоком уровне. Внедрение генеративного ИИ началось с интеграции коммерческих моделей, но высокие счета за токены потребовали поиска более экономичных альтернатив.
- Revolut обслуживает 80 миллионов клиентов на 45 рынках Европы.
- Первые эксперименты с Gemini в начале 2025 года дали 10% улучшения времени выполнения задач.
Переход на открытые модели и экономический эффект
Жесткие бюджетные ограничения на использование сторонних API привели к развертыванию собственных открытых моделей. Фиксированная оплата инфраструктуры избавила компанию от непредвиденных расходов при высоких объемах генерации кода.
- Использование модели GLM 5.1 в апреле 2026 года обеспечило 60% улучшения времени кодинга и 70% времени выполнения.
- Узким местом в инженерии является не написание кода, а сопутствующие процессы вроде работы с почтой и документацией.
Инфраструктура и оптимизация параметров инференса
Прямая загрузка весов на GPU без настройки дает неудовлетворительную производительность. Тонкая настройка квантования до FP4 и контроль длины контекста позволяют удерживать задержку на минимальном уровне и обеспечивать высокую скорость генерации.
- Для работы 2000 инженеров задействовано 56 графических процессоров B200.
- Оптимизация параметров позволяет снизить время до первого токена до 1,6 секунды при росте запросов.
Продакшн-окружение и комплаенс
Банковский сектор требует жесткого контроля за действиями систем, поэтому все процессы кодинга происходят под обязательным участием человека. Инструменты песочницы блокируют нежелательные операции, а надежный мониторинг логирования защищает от инцидентов.
- Текстовые модели комбинируются с локальными роутерами для обработки графических задач через другие системы.
- Размещение открытых весов на серверах в США и использование песочниц с правилами доступа удовлетворяет строгим требованиям европейских регуляторов.
설명
David Abitbol, who leads AI operations at Revolut, shares data from 2,000 engineers on what AI tools did to coding time and lead time, and why self-hosting open-source GLM models made the biggest difference: about 60-70% faster delivery at roughly a tenth of what they were paying frontier labs. He covers the GPUs needed, the latency targets that keep engineers happy, the tuning that made the same hardware 88% faster, and how an EU-regulated bank keeps it compliant. Chapters: 0:00 Intro 0:36 Who Revolut is 1:18 What AI did to 2,000 engineers' lead time 2:45 Why they started self-hosting 3:33 Coding isn't the bottleneck 4:24 What it takes to self-host GLM 5:46 Tuning: same GPUs, 88% faster 7:06 The parameters that matter 8:14 Production setup 9:23 For the CIO: compliance and safety David Abitbol https://www.revolut.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!