← Todos los artículos
IA y gobernanza2 min de lectura

Delegar no es rendirse: pensamiento crítico cuando los agentes hacen el trabajo

Los agentes de IA nos sacan de encima mucho trabajo, y también el esfuerzo que nos obligaba a pensar. Algunas ideas de Addy Osmani y lo que significan para una empresa que desarrolla software.

Julián ButtiGerente general de Syloper
Ilustración de un camino que desciende por tres puntos: el primero firme, el segundo vacío y el tercero que se desvanece, en alusión a cómo se pierde el control al delegar sin revisar

Los agentes de inteligencia artificial nos sacan de encima mucho trabajo. Pero también se llevan algo que no pedimos: el esfuerzo que nos obligaba a pensar. Addy Osmani, de Google, publicó un artículo sobre este tema que recomiendo leer. Comparto las ideas que más me quedaron.

El riesgo es que haya pocos errores

Cuanto mejores son los modelos, más difícil es mantener la atención. Las respuestas salen prolijas y casi siempre correctas, así que no invitan a una segunda mirada. Y aunque tengamos diez agentes trabajando en paralelo, seguimos teniendo un solo par de ojos para revisar.

Delegar, deferir, rendirse

Osmani ordena el problema en tres niveles:

  1. Delegar: el agente hace la tarea, pero el resultado sigue siendo nuestro.
  2. Deferir: lo que devuelve el agente deja de ser una hipótesis y pasa a ser el punto de partida.
  3. Rendirse: la respuesta se acepta sin sentir la necesidad de verificarla.

Se baja de nivel sin darse cuenta. La primera respuesta se lee, la segunda se hojea y la tercera apenas se mira. Así se acumula una deuda de comprensión: el código se ve impecable, las pruebas pasan y nadie entiende cómo funciona el sistema.

Delegar todo cuando equivocarse sale barato; conservar el razonamiento cuando las consecuencias las pagan otros.

Qué significa para una empresa de desarrollo

En Syloper, un agente puede escribir el código, pero la entrega la firmamos nosotros. Por eso lo que más me interesa del artículo es lo que plantea sobre revisar y validar:

  • Una prueba en verde demuestra una sola cosa. Generar pruebas hoy es muy barato, y si la prueba tiene el mismo error que el código, pasa igual. La pregunta es qué se probó y qué no.
  • Definir qué significa “validado” antes de empezar. Después, cualquier resultado se puede justificar. El cierre de cada tarea tiene que ser algo concreto: una prueba, una captura, un registro.
  • Mirar la evidencia antes que el resumen. Primero, qué ejecutó el agente y qué devolvió. El “todo salió bien” viene después.
  • Revisar las decisiones, no solo el código. Pedirle al agente que enumere los supuestos que tomó. Ahí aparecen los cambios de criterio y los requerimientos reinterpretados.
  • Producir solo lo que podemos revisar. Si lo que generan los agentes supera lo que somos capaces de validar, no hay que sumar más agentes: hay que ajustar los controles o bajar la velocidad.

Revisar bien lleva tiempo, y ese tiempo tiene que estar en la planificación y en la estimación de cada proyecto.

Para llevar

Los modelos van a seguir mejorando, pero alguien tiene que hacerse cargo de lo que se entrega. Podemos delegar el trabajo y buena parte del control; la responsabilidad, no.

Un hábito simple para empezar: antes de pedirle algo a un agente, escribir qué esperamos que pase. Y cuando termine, identificar al menos una cosa que no verificó.

Es parte de lo que trabajamos desde Syloper en gobernanza de IA: aprovechar la velocidad de estas herramientas sin perder el criterio.

¿Tu empresa está atravesando un desafío similar? Acompaño procesos de estrategia tecnológica, transformación digital y adopción de inteligencia artificial.

Seguir leyendo

¿Hablamos por WhatsApp?