Por qué los humanos no pueden seguir el ritmo del código escrito por IA - Tariq Shaukat, Sonar
Original · Why Humans Can't Keep Up With AI-Written Code - Tariq Shaukat, Sonar
Key Takeaway
El desarrollo impulsado por inteligencia artificial genera abundancia de código, pero exige la creación de fábricas de software basadas en intención, pautas, verificación y evidencia para garantizar la confianza y superar los límites de la intervención humana.
Highlights
La implementación de agentes asíncronos provoca un aumento del 2450% en las líneas de código escritas y del 240% en las confirmaciones.
El 5% de los desarrolladores opera fábricas de software agenticas, mientras que el 34% planea hacerlo en un año.
Los humanos están de acuerdo con la inteligencia artificial el 93% de las veces cuando acierta y el 80% de las veces cuando se equivoca.
La precisión de los agentes al traducir código colapsa al pasar de bases de código de 10 000 líneas a 50 000 líneas.
Los modelos de lenguaje grande cambian de opinión entre un 7% y un 34% de las veces ante un simple desafío.
La integración de pautas de intención reduce el costo de tokens en un 36% y los problemas en la confirmación en un 92%.
Timeline
Lecciones de la manufactura tradicional en la producción de software
La evolución industrial demuestra que enfocar la producción hacia la calidad inicial y resolver los problemas de inmediato transforma los resultados finales. El sector del software ha integrado estos principios con éxito a lo largo del tiempo, pero la llegada de los agentes autónomos altera profundamente este equilibrio y exige repensar la arquitectura de las fábricas de software.
- Las fábricas de automóviles evolucionaron desde la producción masiva con correcciones posteriores hasta un diseño centrado en la calidad y el ajuste perfecto.
- El sistema de producción de Toyota prioriza la calidad sobre el volumen y permite que cualquier empleado detenga la cadena de montaje.
- El desarrollo de software moderno adopta metodologías ágiles e integración continua derivadas de los principios industriales tradicionales.
La explosión del volumen de código y los riesgos actuales
La automatización agéntica facilita una producción masiva de código que satura los canales de entrega tradicionales. Ante este escenario, la industria avanza hacia la adopción de fábricas agenticas, lo que incrementa la urgencia de establecer mecanismos rigurosos de seguridad, contención y gobernanza frente a vulnerabilidades imprevistas.
- Los agentes asíncronos multiplican masivamente la creación de código y el número de confirmaciones en el ciclo de desarrollo.
- Un porcentaje significativo de los equipos de desarrollo proyecta operar fábricas de software agenticas durante el próximo año.
- La gobernanza de los modelos internos requiere un diseño de sistemas determinista y controles humanos operativos fiables.
Las cinco limitaciones fundamentales de los agentes en el software
Las limitaciones técnicas actuales impiden confiar ciegamente en la automatización sin supervisión estructural. La tendencia humana a aceptar de manera acrítica los errores de la máquina, combinada con la pérdida de precisión en bases de código masivas y la volatilidad en los juicios del modelo, demuestra que la intervención manual tradicional es insuficiente.
- El factor humano en el bucle no escala al ritmo del crecimiento exponencial de las líneas de código producidas.
- La precisión de los agentes disminuye drásticamente al operar en bases de código extensas y complejas debido al consumo excesivo de tokens.
- Los errores se acumulan de forma exponencial a medida que aumentan los pasos en tareas de larga duración.
- Los modelos de lenguaje actúan como jueces inestables que modifican sus veredictos ante repeticiones o desafíos simples.
La fórmula de confianza de código y los resultados prácticos
La construcción de fábricas de software resilientes exige integrar pilares estructurados que garanticen resultados fiables y auditables. Al combinar una guía clara de intenciones con métodos de verificación combinados y deterministas, las organizaciones logran disminuir costos operativos, mitigar fallos críticos y recuperar la confianza en los tiempos de lanzamiento al mercado.
- La fórmula de confianza se compone de claridad en la intención, pautas de orientación, verificación independiente y evidencia auditable.
- La aplicación de pautas y control de intención reduce de forma notable el costo de tokens y los defectos en la confirmación de código.
- La verificación estricta aumenta significativamente la seguridad del software, los plazos de entrega y la reducción de interrupciones.
Description
Agents have made code cheap: one study saw lines of code up 2,450% but releases up only 30%. Sonar CEO Tariq Shaukat draws on the factory revolution that Toyota and Lexus started to explain how to build agentic software factories you can trust. He breaks down five hard problems: human review that doesn't scale (people agree with AI that's wrong 4 out of 5 times), agents struggling with large codebases, errors compounding over long tasks, unreliable LLM judges, and near-zero time to exploit. Then he lays out Sonar's code confidence formula: intent, guide rails, verification and evidence. Chapters: 0:00 Intro 0:26 The ball bearing that changed car factories 2:23 Software already borrowed these ideas 2:55 Agents break the factory 5:19 Problem 1: Human in the loop doesn't scale 6:45 Problem 2: Agents struggle with big codebases 8:04 Problem 3: Errors compound 9:06 Problem 4: LLM judges are unreliable 10:03 Problem 5: Time to exploit is near zero 10:25 The code confidence formula 12:36 Results from customers 15:49 Code is abundant, confidence is scarce Tariq Shaukat https://www.sonarsource.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!