300 Agents, 60 People: Wie wir unsere eigenen KI-Agenten abgesichert haben – Aiden Sochowski, Runlayer

하이라이트

• Ein Unternehmen mit 50 bis 60 Mitarbeitern betreibt täglich über 300 aktive KI-Agenten.

• Zentralisierte Gateways protokollieren jede Sitzung und jeden Tool-Aufruf, um die Angriffsfläche von Agenten zu kontrollieren.

• Schlecht geschriebene MCP-Server und unüberachte Modellwechsel treiben die Token-Kosten und Fehlerraten massiv in die Höhe.

타임라인

1. 00:00 - 04:10

   Mangelnde Transparenz und der Einsatz interner Agenten

   Viele Unternehmen haben keinerlei Einblick in die lokalen MCP-Clients und Agenten, die sich mit verschiedenen Servern verbinden. Um dieses Problem zu lösen, setzt RunLayer ein zentrales Gateway ein, das jede Sitzung und jeden Tool-Aufruf protokolliert. Da Agenten mittlerweile die Zahl der menschlichen Mitarbeiter übersteigen, werden sie nach Thema und Risiko kartiert, um destruktive Aktionen und Datenexfiltration zu verhindern.

   • Unternehmensinterne Clients und Agenten laufen oft unbemerkt auf unmanaged Geräten.
   • Ein Team mit 50 bis 60 Personen setzt täglich mehr als 300 automatisierte Agenten ein.
   • Agenten beschleunigen das Risiko der Vermischung verschiedener Datenklassen drastisch.
2. 04:10 - 12:35

   Sicherheitsrisiken und Kontextabhängigkeit von Richtlinien

   Bösartige Akteure versuchen über E-Mails oder Support-Daten, sensible Informationen abzugreifen oder unerwünschte Aktionen auszulösen. Da starre Regeln im Alltag nicht greifen, trainiert das Unternehmen eigene Klassifikatoren, die prüfen, ob Tool-Aufrufe zum definierten Aufgabengebiet passen. Zudem minimiert eine restriktive Vergabe von Schreibrechten das Risiko, dass fehlerhafte oder kompromittierte Daten andere Agenten im System kontaminieren.

   • Statische Blockaden einzelner Tools scheitern an den dynamischen Kontexten komplexer Aufgaben.
   • Maßgeschneiderte Klassifikatormodelle bewerten die gesamte Tool-Historie auf Abweichungen vom ursprünglichen Zweck.
   • Schreibberechtigungen in SaaS-Systemen müssen extrem eng gehalten werden, um eine Vergiftung des Kontextfensters zu verhindern.
3. 12:35 - 16:30

   Kostenkontrolle und Optimierung durch Monitoring

   Die Überwachung deckt neben Sicherheitslücken auch ineffiziente Abläufe und technische Fehler auf. So haben Mitarbeiter ohne formale Software-Erfahrung eigene MCP-Server gebaut, die wegen Formatierungsfehlern unzählige Token verschwendeten. Auch der unkontrollierte Wechsel zu fortgeschritteneren Modellen treibt die Budgets in die Höhe. Nur durch kontinuierliches Tracking und sinnvolle Standardwerte lassen sich diese Ausgaben rechtfertigen und steuern.

   • Ungetestete, im Vibe-Coding-Stil erstellte MCP-Server führen zu ständigen Fehlern und explodierenden Token-Kosten.
   • Unüberachte Modellwechsel zu teureren Varianten steigern die Ausgaben innerhalb einer Woche um das Hundertfache.
   • Eine effektive Kosten- und Sicherheitskontrolle erfordert dedizierte Überwachungswerkzeuge statt pauschaler Stopps.