Comment Revolut a réduit de 90 % ses coûts de codage par IA grâce à des modèles ouverts auto-hébergés - David Abitbol, Revolut

하이라이트

• Revolut a réduit ses coûts de codage par IA d'un facteur dix en passant à l'auto-hébergement de modèles open-source sur des GPU dédiés.

• L'utilisation de GLM 5.1 a permis une amélioration de 60 % du temps de codage et de 70 % du délai de livraison pour 2 000 ingénieurs.

• L'infrastructure d'auto-hébergement pour 2 000 ingénieurs nécessite 56 puces B200 fonctionnant avec le modèle GLM 5.3.

• L'utilisation de la précision FP4 au lieu du FP8 permet une économie de 40 % de l'empreinte GPU sans perte de précision.

• Le coût moyen par jeton avec l'auto-hébergement de GLM s'élève à 0,30 $ par million.

타임라인

1. 00:00 - 03:32

   Contexte et adoption initiale de l'IA chez Revolut

   La banque numérique Revolut met l'accent sur la livraison rapide de produits et une culture d'ingénierie rigoureuse. L'introduction de l'IA a commencé avec des outils comme Gemini, qui ont éliminé le besoin de consulter des documentations externes, suivis par des tests sur Cloud Code qui ont soulevé des inquiétudes financières en raison des dépenses élevées par ingénieur.

   • Revolut compte 80 millions de clients répartis sur 45 marchés et emploie 2 000 ingénieurs.
   • L'intégration de Gemini en janvier 2025 a réduit le délai de livraison de 10 % et le temps de codage de 20 %.
   • Les coûts initiaux élevés des outils propriétaires ont entraîné des restrictions budgétaires strictes pour les équipes.
2. 03:32 - 06:55

   Transition vers l'open-source et performances obtenues

   Pour s'affranchir des contraintes budgétaires, Revolut s'est tourné vers l'auto-hébergement de modèles open-source. Cette approche a permis d'instaurer des quotas illimités pour les développeurs, améliorant nettement les délais de livraison grâce à la diminution des recherches dans les outils internes comme JIRA et Confluence.

   • L'adoption des modèles open-source GLM en avril 2026 a généré une baisse spectaculaire des coûts de codage.
   • Le goulot d'étranglement de l'ingénierie réside principalement dans les processus organisationnels plutôt que dans le code lui-même.
   • L'infrastructure gère 2 000 ingénieurs grâce à 56 puces B200 dédiées à l'hébergement de GLM 5.3.
3. 06:55 - 09:22

   Optimisation des paramètres et configuration de production

   L'exécution performante de modèles open-source nécessite des réglages techniques précis sur les paramètres de l'infrastructure. Une gestion rigoureuse du cache et du parallélisme de tenseurs permet d'augmenter le nombre de requêtes par seconde tout en maintenant un temps d'accès au premier jeton inférieur à deux secondes.

   • L'utilisation de la quantification FP4 réduit l'empreinte GPU de 40 % sans perte de précision.
   • Un contexte de 256k jetons s'avère largement suffisant malgré l'existence de capacités de contextes plus longs.
   • Les tâches de vision par ordinateur sont routées vers des modèles spécifiques comme GLM 5G Flash ou des routeurs locaux.
4. 09:22 - 11:44

   Conformité, sécurité et gouvernance des données

   Les exigences de régulation bancaire strictes sont respectées en hébergeant les modèles dans des juridictions conformes et en utilisant des bacs à sable configurés pour restreindre les opérations non autorisées. Cette architecture assure une observabilité complète et protège l'entreprise contre les risques de sécurité.

   • L'utilisation de modèles open-source chinois se fait via le téléchargement des poids sur des serveurs situés aux États-Unis.
   • Un système de bac à sable garantit la présence constante d'un humain dans la boucle pour valider les actions.
   • Le respect des cadres d'équivalence des données garantit la conformité réglementaire pour une banque européenne.