Una idea muy fuerte de Uncle Bob sobre IA:

“Sin restricciones, los agentes hacen cualquier cosa.”

Por eso insiste mucho en la creación de “physical barriers”.

Es decir: mecanismos concretos que limitan lo que la IA puede hacer dentro del sistema.

El checklist que él sugiere es interesante:

• unit tests con cobertura extremadamente alta (los agentes usan los tests para entender el comportamiento esperado del sistema)
• acceptance tests escritos en Gherkin/BDD (tests legibles para humanos funcionando como “leyes” del sistema)
• mutation tests: la herramienta modifica automáticamente partes del código (por ejemplo cambiando > por < ) para verificar si los tests detectan el problema. Si los tests siguen pasando, probablemente son débiles
• linters (evitan errores básicos y fuerzan estándares mínimos de código)
• dependency checkers (controlan dependencias entre módulos y ayudan a proteger la arquitectura)
• code coverage tools (obligan a los agentes a cubrir partes olvidadas del sistema)
• CRAP metric: complejidad ciclomática + cobertura de pruebas (ayuda a identificar funciones complejas y peligrosas)
• architecture viewers (ayudan a los humanos a visualizar sistemas que ya son demasiado grandes para entender solo leyendo código)
• implementation plans con checkpoints (evitan que los agentes implementen cosas largas sin supervisión)

La idea es simple: no confiar solo en prompts e instrucciones.

Porque los agentes:

• olvidan contexto
• ignoran reglas
• se enfocan demasiado en la última instrucción
• “compactan” memoria cuando el contexto se llena
• empiezan a actuar de forma impredecible

Entonces los tests dejan de ser solo garantía de calidad y se convierten en mecanismos de control de los agentes.

Me pareció especialmente interesante esta frase implícita en el episodio: “tests are documentation for the AI”.

La IA lee los tests para entender el comportamiento esperado del sistema.

Tal vez este sea uno de los puntos más contraintuitivos de la era de la IA: cuanto más código conseguimos generar automáticamente, más importante se vuelve crear mecanismos que impidan que el sistema se degrade silenciosamente con el tiempo.

Fuente: episodio “Agentic Discipline Ep 4”, de Clean Coders / Uncle Bob.