Revolutが自社ホスト型オープンモデルでAIコーディングコストを90%削減した方法 - デヴィッド・アビトボル（Revolut）

Highlights

• Revolutはヨーロッパのデジタルバンクであり、顧客数8,000万人を擁し、過去1年間でヨーロッパ最もダウンロードされた金融アプリである。

• オープンソースのGLM 5.1を導入した結果、コーディング時間が60%改善し、リードタイムが70%短縮された。

• 2,000人のエンジニアをサポートするために、GLM 5.3のホストにはおよそ56基のB200 GPUが必要となる。

• GLMのセルフホストにより、100万トークンあたりの平均コストが0.30ドルとなり、請求額が従来の10分の1に削減された。

• Blackwell世代のGPUでの実行においては、FP4を使用することで精度を落とさずにGPUフットプリントを40%削減できる。

Timeline

1. 00:00 - 03:00

   Revolutの概要とAI導入の背景

   ヨーロッパの主要なデジタルバンクであるRevolutは、多くのプロダクトを迅速にリリースするために高い水準のエンジニアリング文化を維持している。2,000人のエンジニアを対象としたパフォーマンス測定では、初歩的な商用AIツール（Gemini等）の導入によってリードタイムが10%、コーディング時間が20%短縮された。しかし、エンジニアあたりの月額利用コストが高額であったため、初期段階ではコスト対効果への懐疑的な見方が強かった。

   • Revolutは45市場で8,000万人の顧客を持つヨーロッパ最大の非上場企業である。
   • 2,000人のエンジニアを対象とした調査では、初期の商用AI導入によるリードタイム短縮は10%にとどまった。
   • 初期のAI利用では高額なコストに対して十分な投資対効果（ROI）が見出せなかった。
2. 03:00 - 04:30

   オープンソースモデルへの移行と成果

   コスト制限の課題を解決するため、同社はオープンソースモデルのセルフホストへと舵を切った。2026年4月にGLM 5.1を導入した結果、コーディング時間が60%、リードタイムが70%改善するという劇的な成果がもたらされた。この移行により、エンジニアはトークン制限を気にすることなく業務を行えるようになり、エンジニアリングの真のボトルネックであったタスク全体の効率化が進んだ。

   • オープンソースのGLM 5.1の導入により、コーディング時間が60%改善した。
   • トークン制限を撤廃したことで、エンジニアが困難なタスクに対して自由にAIを活用できる環境が整った。
   • オープンソースの活用は現在のRevolutにおける最優先事項となっている。
3. 04:30 - 08:14

   セルフホストにおけるインフラと最適化の指標

   大規模な開発体制を支えるインフラとして、56基のB200 GPUを用いたセルフホスト環境が構築されている。ユーザー体験を維持するため、最初のトークン生成までの時間を1.6秒から3秒未満に収める運用が行われている。また、単にGPUを増設するのではなく、量子化やテンソル並列度などのパラメータを徹底的にチューニングすることで、需要の増加に対してパフォーマンスを大幅に引き上げることに成功している。

   • 2,000人のエンジニアを支えるため、GLM 5.3のホストには56基のB200 GPUが使用されている。
   • 初めの一文字が生成されるまでの時間（TTFT）は3秒未満に抑えられている。
   • パラメータの最適化により、需要が76%増加した一方でパフォーマンスは88%向上した。
4. 08:14 - 11:44

   本番環境のセットアップとコンプライアンス

   テキスト中心のオープンソースモデルを補完するため、画像認識などの特殊なタスクは別のモデルへ効率的にルーティングされる仕組みが導入されている。EUの厳格な規制を遵守する銀行として、モデルの重みを安全な地域で運用し、人間が介在するサンドボックス環境やデータ保持ゼロのプロバイダーを利用することでセキュリティとコンプライアンス上の懸念を解消している。

   • テキスト専用モデルの弱点を補うため、ローカルルーターを用いてビジョン処理を適切に振り分けている。
   • 中国製モデルの重みデータを米国内などの信頼できる拠点に配置することで、データプライバシーと規制をクリアしている。
   • サンドボックス環境と強力なオープンテレメトリーの導入により、セキュリティと監視が担保されている。