Ich habe Code veröffentlicht, den ich nicht verstehe – und ich wette, du auch schon

Der Sprecher beginnt mit dem provokanten Geständnis, bereits Code veröffentlicht zu haben, den er selbst nicht vollständig verstanden hat. Er behauptet, dass dies ein weit verbreitetes Phänomen unter Entwicklern sei, das durch moderne KI-Tools massiv beschleunigt wird. Bei Netflix beobachtete er zwar eine reale Beschleunigung der Arbeit, warnt jedoch vor den Risiken bei großen Produktionsausfällen. Wenn Systeme scheitern, wie etwa bei Cloudflare, ist ein tiefes Verständnis des Codes für das Debugging unerlässlich. Dieser Abschnitt schlägt die Brücke von der persönlichen Erfahrung zur allgemeinen Herausforderung der aktuellen Software-Krise.

Der Vortrag blickt zurück in die 60er Jahre, als Informatiker wie Dijkstra erstmals eine Software-Krise ausriefen, weil die Hardwareleistung schneller wuchs als die menschliche Fähigkeit, komplexe Programme zu schreiben. Über die Jahrzehnte entstanden Lösungen wie C, Java und Agile, doch das Grundproblem blieb laut Fred Brooks' Paper "No Silver Bullet" bestehen. Brooks argumentierte bereits 1986, dass keine Innovation die Produktivität massiv steigern kann, da das eigentliche Problem das Verständnis des Designs ist. Die Mechanik des Tippens ist einfach, aber das Lösen der Kernprobleme bleibt die fundamentale Schwierigkeit. Heute erleben wir diese Krise durch KI erneut, jedoch in einem bisher ungeahnten, unendlichen Ausmaß.

In diesem zentralen Teil unterscheidet der Sprecher zwischen den Begriffen "simple" (einfach) und "easy" (bequem), basierend auf den Theorien von Rich Hickey. Einfachheit bezieht sich auf eine klare, unverflochtene Struktur, während Bequemlichkeit lediglich bedeutet, dass eine Lösung ohne Anstrengung in Reichweite liegt. KI fungiert hierbei als der ultimative Knopf für Bequemlichkeit, der Entwickler dazu verleitet, Architektur und Design zugunsten schneller Ergebnisse zu ignorieren. Anhand eines Beispiels zur Implementierung von Authentifizierung wird gezeigt, wie iterative Chat-Anweisungen zu einem Chaos aus widersprüchlichem Code führen. Jede bequeme Entscheidung tauscht kurzfristiges Tempo gegen langfristige, unüberschaubare Komplexität ein.

Der Sprecher definiert Komplexität als das Gegenteil von Einfachheit, nämlich als den Zustand, in dem alles mit allem verflochten ist. Er nutzt Brooks' Kategorisierung in essenzielle und akzidentelle Komplexität, um zu erklären, warum KI oft an echten Refactorings scheitert. KI-Modelle unterscheiden nicht zwischen notwendiger Geschäftslogik und historisch gewachsenen technischen Schulden; für sie ist alles nur ein zu bewahrendes Muster. Ein Praxisbeispiel von Netflix verdeutlicht dies: Ein Refactoring einer alten Autorisierungsschicht schlug fehl, weil die KI die tiefen Verstrickungen im Code nicht entwirren konnte. Ohne den menschlichen Kontext und die Erfahrung bleibt die KI an der Oberfläche der Code-Struktur hängen.

Um die Kontrolle zurückzugewinnen, stellt der Sprecher die Methode der "Kontext-Kompression" vor, die aus Recherche, Planung und Implementierung besteht. In der Recherche-Phase wird der relevante Kontext aus Dokumenten und Analysen in ein kompaktes Dokument gefiltert, das ein Mensch validieren muss. Die Planungs-Phase erstellt daraufhin einen präzisen Ablaufplan, der Architektur-Entscheidungen vorwegnimmt und wie "Malen nach Zahlen" funktioniert. Erst in der Implementierungs-Phase wird die KI zur Ausführung genutzt, wodurch endlose, verwirrende Chat-Konversionen vermieden werden. Dieser strukturierte Prozess stellt sicher, dass das menschliche Urteilsvermögen die Richtung vorgibt, während die Maschine nur die Mechanik beschleunigt.

Abschließend betont der Sprecher, dass selbst der beste Drei-Phasen-Ansatz eine gründliche manuelle Einarbeitung nicht ersetzen kann. Er berichtet, wie sein Team eine Migration erst händisch durchführen musste, um die Invarianten des Systems zu verstehen, bevor die KI effektiv helfen konnte. Das eigentliche Problem der Zukunft ist eine Wissenslücke: Wenn wir nur noch generieren, ohne zu verstehen, verlieren wir unseren Instinkt für gefährliche Komplexität. Der Sprecher schließt mit der Mahnung, dass Softwareentwicklung trotz KI ein menschliches Handwerk bleibt, das auf Erfahrung und tiefer Durchdringung basiert. Die entscheidende Frage für die Zukunft ist nicht, ob wir KI nutzen, sondern ob wir unsere eigenen Systeme dann noch verstehen werden.