Zéro « vibes », que du code : Résoudre des problèmes ardus dans des bases de code complexes – Dex Horthy, HumanLayer

Dex Horthy introduit la session en s'appuyant sur des données montrant que l'IA génère souvent du travail bâclé dans les environnements logiciels matures. Bien que l'IA fonctionne parfaitement pour de petits tableaux de bord créés de zéro, elle peine face à des bases de code Java vieilles de dix ans. L'auteur souligne que l'utilisation naïve de l'IA crée des "usines à dette technique" où l'on passe son temps à corriger les erreurs de la semaine précédente. Ce constat pose le décor pour la nécessité d'une nouvelle approche appelée l'ingénierie de contexte. Il affirme que pour tirer le meilleur des modèles actuels, il faut changer radicalement notre manière de collaborer avec eux.

L'orateur raconte comment son équipe a multiplié son rendement par trois en modifiant sa méthode de travail après une expérience initialement décevante avec Claude Code. Ce succès repose sur un système viral de prompts nommé "recherche, plan, exécution" qui vise à éliminer le code inutile. L'objectif est de maintenir une cohérence mentale tout en déléguant intelligemment des tâches aux agents sans perdre le contrôle. Cette phase de transition a duré huit semaines et a nécessité une refonte complète de leur processus de création logicielle. L'enjeu est de pouvoir s'attaquer à des problèmes complexes sans produire de "code poubelle".

Cette section détaille les méthodes pour éviter l'épuisement du contexte, notamment la technique de repartir de zéro dans une nouvelle fenêtre dès qu'une conversation s'égare. Dex présente la "compaction intentionnelle", qui consiste à demander à l'agent de résumer l'état actuel de son travail dans un fichier Markdown avant de changer de contexte. Il explique que les LLM sont sans état (stateless) et que leur performance dépend uniquement de la qualité des tokens injectés en entrée. Un point crucial est fait sur la "trajectoire" : si l'on passe son temps à réprimander l'IA, elle finit par prédire de futures erreurs pour satisfaire ce schéma d'interaction. Il faut donc nettoyer le contexte pour ne garder que la vérité technique et les informations pertinentes.

L'orateur introduit le concept académique de la "zone d'idiotie", située au-delà de 40 % de remplissage de la fenêtre de contexte de Claude. Plus le contexte est saturé de données inutiles comme du JSON ou des UUID, plus les capacités de raisonnement du modèle diminuent. Pour contrer cela, il préconise l'usage de sous-agents dont le rôle n'est pas d'imiter des humains, mais de contrôler strictement le contexte. Un sous-agent peut explorer une base de code massive et renvoyer uniquement un message succinct à l'agent parent pour lui indiquer le fichier exact à modifier. Cette architecture permet de maintenir l'agent principal dans une "zone intelligente" de haute performance.

Dex détaille le flux de travail RPI qui permet de structurer l'intervention de l'IA de manière rigoureuse. La recherche identifie objectivement le fonctionnement du système, tandis que la planification définit des étapes explicites incluant des extraits de code et des méthodes de test. L'implémentation devient alors une étape triviale car le plan est si précis qu'un modèle moins puissant pourrait l'exécuter sans erreur. Il illustre l'efficacité de cette méthode par une anecdote où il a livré 35 000 lignes de code en une journée sur un projet complexe en Rust. Enfin, il critique le terme de "développement piloté par les spécifications" (SDD), le jugeant trop flou à cause de la diffusion sémantique.

L'orateur propose quatre étapes tactiques, incluant la création de documents d'accueil et la divulgation progressive du contexte par niveaux de répertoires. Il compare la gestion du contexte au film "Memento", où le protagoniste doit lire ses propres notes pour savoir ce qu'il fait. L'idée est d'éviter d'importer tout le contexte d'un coup pour ne pas saturer la mémoire de travail de l'agent. Dex souligne que les plans Markdown servent aussi d'outil d'alignement pour les équipes humaines, permettant aux leaders techniques de réviser l'intention sans lire chaque ligne de code. Cette approche transforme la revue de code en une revue de stratégie et de conception.

La présentation se termine sur un avertissement : il ne faut jamais sous-traiter la réflexion à l'IA, car un mauvais plan générera inévitablement du mauvais code. Dex explique qu'il existe un juste milieu entre la longueur d'un plan et sa lisibilité, et qu'il faut s'entraîner pour trouver le bon dosage d'ingénierie de contexte. Il prédit que les agents de codage deviendront un produit de base et que le vrai défi sera culturel pour les entreprises. Les ingénieurs seniors doivent guider l'adoption pour éviter que les juniors ne produisent du code médiocre que les seniors devront nettoyer. Il conclut en invitant les développeurs à pratiquer ces méthodes pour atteindre l'objectif de 99 % de code généré par IA de haute qualité.