300 Agents, 60 Personnes : Comment nous avons sécurisé nos propres agents IA - Aiden Sochowski, Runlayer
Original · 300 Agents, 60 People: How We Secured Our Own AI Agents - Aiden Sochowski, Runlayer
Key Takeaway
La sécurisation et la maîtrise des coûts des agents IA nécessitent une surveillance centralisée des sessions et l'application de limites strictes pour contrer la prolifération des risques et l'explosion des dépenses en jetons.
Highlights
Une entreprise de 50 à 60 personnes fait tourner plus de 300 agents IA chaque jour.
La surveillance centralisée de chaque session et appel d'outil permet de cartographier les agents par sujet et par niveau de risque.
Un mauvais paramétrage des serveurs MCP entraîne des boucles d'erreurs répétées et une explosion des coûts en jetons.
Le changement de modèle vers des versions plus puissantes multiplie les coûts par plus de 100 en l'espace d'une semaine.
L'utilisation de modèles classificateurs sur l'historique des appels d'outils permet de détecter les comportements anormaux et de restreindre le périmètre des agents.
Timeline
Visibilité et prolifération des agents en interne
De nombreuses organisations utilisent des clients MCP locaux et des produits agentiques sans aucun suivi centralisé. Pour contrer ce manque de visibilité, une passerelle enregistre chaque session et chaque appel d'outil. Cette démarche révèle une densité d'agents supérieure au nombre d'employés réels, nécessitant une cartographie précise par niveau de risque.
- La majorité des entreprises manquent de visibilité sur leurs clients et leurs agents IA locaux.
- Une structure de 50 à 60 employés déploie plus de 300 agents quotidiens à travers divers déclencheurs et applications.
- Chaque exécution d'agent et appel d'outil constitue une surface d'attaque potentielle pour lire des données hostiles ou exfiltrer des informations.
Gestion des risques et politiques de sécurité
Les e-mails reçus de sources externes peuvent induire un agent en erreur et provoquer l'exfiltration de données confidentielles. Bien que l'application de filtres ou de politiques de blocage apporte un certain niveau de protection, le contexte dynamique des sessions rend cette approche ardue. Les agents dotés de privilèges d'approbation de code risquent notamment de valider des modifications non conformes sous l'effet de requêtes détournées.
- Un acteur malveillant peut exploiter un agent naïf pour lister des données sensibles via des e-mails.
- La définition de politiques statiques dans une passerelle d'agents s'avère complexe et difficilement adaptable à chaque contexte.
- Les attaques ne se limitent pas à un seul appel d'outil mais peuvent évoluer au fil d'une session entière, comme lors de révisions de code automatisées.
Modèles de classification et cloisonnement des données
Pour maintenir le contrôle, des classificateurs internes examinent si les actions entreprises par un agent correspondent à sa mission initiale. Les outils puissants utilisés par les équipes internes nécessitent un réajustement permanent de leurs permissions pour éviter l'accès non autorisé à des informations sensibles. Isoler les systèmes d'écriture garantit l'intégrité des données manipulées par l'ensemble des agents.
- L'entraînement de modèles de classification spécifiques permet d'analyser l'historique des sessions et de détecter les écarts de comportement.
- Les bots de recrutement dotés d'accès aux ATS et aux calendriers génèrent des risques élevés de fuite de données de négociation.
- Un cloisonnement strict des autorisations d'écriture protège la fenêtre de contexte des agents contre la corruption.
Maîtrise des coûts et surveillance des serveurs MCP
La liberté accordée aux équipes pour concevoir leurs propres intégrations MCP conduit souvent à des problèmes de formatage non anticipés. Ces erreurs répétées alourdissent considérablement la facture en raison de la consommation continue de jetons. De même, le choix non réglementé des modèles de langage provoque des hausses soudaines de budget qu'il convient de réguler grâce à des outils de supervision adaptés.
- Les serveurs MCP faits maison et mal testés génèrent des boucles d'erreurs qui multiplient les coûts en jetons d'entrée et de sortie.
- Le passage à des modèles plus performants entraîne parfois une multiplication par 100 des dépenses hebdomadaires.
- L'établissement de budgets et la surveillance active constituent les seuls moyens d'intervenir et de bloquer les dérives financières.
Description
Runlayer is a company of about 60 people running 300+ agents every day. Founding engineer Aiden Sochowski shares what they found once they put a gateway in front of everything and logged every session and tool call: prompt injection through email, PR-review agents getting talked into approvals, over-permissioned bots, one poisoned agent contaminating others, buggy vibe-coded MCP servers burning tokens, and a model switch that raised costs over 100x in a week. Chapters: 0:00 Intro 0:25 Zero visibility into company agents 1:22 300 agents for 60 people 3:38 Example: data exfiltration through email 6:16 Attacks that unfold over a whole session 8:50 Using session data to scope agents down 10:56 One poisoned agent affects them all 12:47 Beyond security: broken MCP servers 14:08 Cost blowups from model switches 15:36 Wrap-up Aiden Sochowski https://runlayer.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!