Vibecoding: Chancen und Risiken

Der Sprecher Alex stellt sich und das Thema 'Vibe Coding' vor, wobei er die faszinierenden Entwicklungen aus Sicherheitsperspektive beleuchtet. Er betont, dass KI zur Codegenerierung eine unglaubliche Chance darstellt, da sie 'normalen' Menschen ermöglicht, Computer auf eine neue, mächtige Weise zu nutzen. Programmieren wird als Superkraft beschrieben, die nun Millionen von Menschen zugänglich gemacht wird, was als revolutionär und überaus positiv bewertet wird. Diese neue Zugänglichkeit verspricht eine Demokratisierung der Technologie.

Trotz des enormen Potenzials wird 'Vibe Coding' auch als 'Fuß-Bazooka' bezeichnet, was die erheblichen Risiken verdeutlicht. Es gibt unzählige Beispiele, wie unerfahrene Nutzer 'Vibe Coding'-Apps für sensible Anwendungen wie medizinische Aufzeichnungssysteme, Bitcoin-Systeme oder die Erfassung persönlicher Daten nutzen. Das Problem wird durch schlechte Standardeinstellungen einiger Plattformen verschärft, die es den Nutzern zu leicht machen, unsichere Konfigurationen zu verwenden, was nicht die Schuld der zugrunde liegenden Technologien wie Superbase ist, sondern der Implementierung der 'Vibe Coding'-Plattformen.

Der Sprecher verweist auf empirische akademische Daten, insbesondere ein Paper der 'Backbench Academic Group', das die Sicherheit von KI-generiertem Code untersucht. Die Studie testet Coding-Tools und LMs auf Korrektheit und das Vorhandensein von Sicherheitslücken. Es zeigt sich, dass LMs zwar Fehler machen, aber auch viele Schwachstellen einführen, obwohl sich die Modelle (z.B. GPT-5 im Vergleich zu GPT-4) in die richtige Richtung entwickeln. Selbst die besten Modelle wie Claude Sonnet 4.5 weisen noch in etwa 20% der Fälle Sicherheitslücken auf, was aus Sicherheitssicht nicht akzeptabel ist.

Eine kritische Sorge ist, dass 'Vibe Coder' mit grundlegenden Tools in eine Welt voller professioneller Angreifer geschickt werden, die seit über 20 Jahren Web- und Mobilanwendungen hacken und Finanzmodelle für böswillige Aktionen entwickeln. Das MITRE ATT&CK Framework wird als Beispiel für die Komplexität der Angriffstechniken genannt, die von staatlich unterstützten Gruppen (z.B. China, Russland) oder finanziell motivierten Organisationen eingesetzt werden. Die Vorstellung, dass 'Vibe Coder' diese komplexen Bedrohungen verstehen oder sich dagegen verteidigen können, wird als lächerlich abgetan.

Um die Probleme besser anzugehen, schlägt der Sprecher vor, die Nutzung von KI-Tools in zwei Kategorien zu unterteilen: 'Vibe Coding' und 'KI-gestütztes Engineering'. 'Vibe Coding' richtet sich an 'normale' Menschen ohne professionelle Softwareentwicklungserfahrung, die eine Plattform nutzen, um ein gewünschtes Ergebnis zu beschreiben, oft von Grund auf neu. Diese Nutzer können die Sicherheit der Ausgabe kaum beurteilen. 'KI-gestütztes Engineering' hingegen wird von professionellen Ingenieuren genutzt, die KI-Agenten überwachen, spezifische Komponenten anfordern und mit bestehenden Codebasen sowie Compliance-Anforderungen arbeiten.

Für 'Vibe Coder' müssen Plattformen 'secure by design' sein, was bedeutet, dass die KI-Coding-Agenten eine 'Meinung' zur Architektur und Konfiguration haben sollten, um Dinge von Anfang an richtig zu machen. Dies beinhaltet sichere Standardeinstellungen, rollenbasierte Sicherheit und minimalen Datenzugriff. Plattformen sollten auch Projekte ablehnen, die außerhalb ihres sicheren Rahmens liegen (z.B. medizinische Systeme, Bitcoin-Speicherung), und bei sensiblen Daten automatisch Sicherheitsfunktionen aktivieren. Der Sprecher befürwortet 'Sicherheitspaternalismus', also das Treffen von Sicherheitsentscheidungen im Namen von unerfahrenen Nutzern, um sie zu schützen.

Für professionelle Ingenieure, die KI-gestütztes Engineering betreiben, ist ebenfalls 'secure by design' erforderlich, jedoch auf einer anderen Ebene. Hier geht es darum, dass KI-Agenten keine dummen Sicherheitsfehler machen und den Benutzer proaktiv zu besseren Standardeinstellungen auffordern. Wichtig ist ein Fokus auf das Gesamtbild: KI-Agenten sollten sich verlangsamen und Planungsphasen wie Architektur- und Designentwürfe, API-Dokumentation und Eingabevalidierung priorisieren, anstatt sofort Code zu schreiben. Zudem werden KI-Sicherheitsagenten benötigt, die mit den Coding-Agenten zusammenarbeiten.

Der Sprecher hebt hervor, dass Softwareentwicklung nicht nur von Entwicklern, sondern auch von Sicherheitsingenieuren, Architekten, Datenschutzbeauftragten, Compliance-Mitarbeitern und Anwälten beeinflusst wird. Während KI die Arbeit der Entwickler extrem beschleunigt (eine 40-Stunden-Woche in 20 Minuten GPU-Zeit), arbeiten diese anderen Fachkräfte weiterhin im menschlichen Tempo. Dies schafft eine gefährliche Lücke, da CISOs (Chief Information Security Officers) für die Handlungen Hunderter oder Tausender Mitarbeiter verantwortlich sind, die nun KI-Agenten nutzen, und bei Fehlern sogar ins Gefängnis kommen könnten.

Corridor schlägt zwei Bereiche für die Standardisierung vor, um KI-Coding unternehmenstauglich zu machen: Telemetrie und Sicherheits-Workflows. Bei der Telemetrie sollten Sicherheitsagenten alle Interaktionen (Nutzer, Prompts, Tools, generierter Code) transparent machen, idealerweise über einen offenen Standard wie den von Anthropic (Claude Code). Für den Sicherheits-Workflow ist ein deterministischer Kommunikationsmechanismus zwischen Sicherheits- und Coding-Agenten erforderlich, um menschliche Interaktionen wie Plan- und Code-Reviews zu automatisieren. Corridor bietet ein Produkt an, das sich in Coding-Agenten einklinkt, Sicherheitkontext bereitstellt, unternehmensspezifische Regeln durchsetzt und Code scannt.

Der Sprecher betont die Notwendigkeit der Zusammenarbeit, um die Superkraft der KI-Coding-Agenten sicher für Millionen von Menschen nutzbar zu machen und sie gleichzeitig vor böswilligen Akteuren zu schützen. Corridor hat sein Produkt auf Vercels AI Agent Marketplace veröffentlicht und ist dort das einzige Sicherheitsprodukt. Er lädt zur Diskussion ein und hofft, dass die Zukunft eine enge, standardisierte Beziehung zwischen Coding- und Sicherheitsagenten sehen wird, ähnlich der idealen Zusammenarbeit zwischen menschlichen Software- und Sicherheitsingenieuren.