← Todos los artículos
IA y gobernanza4 min de lectura

¿Hasta dónde sostener la validación humana cuando trabaja la IA?

Poner un humano en el medio no alcanza: necesita autoridad, contexto y ganas de mirar. Cuatro preguntas y tres niveles para decidir dónde validar y con qué intensidad.

Julián ButtiGerente general de Syloper
Ilustración de tres zonas unidas por una línea punteada: una grilla de puntos pequeños con dos anillos de muestreo, una columna de puntos frente a un umbral con uno destacado y un único punto grande dentro de un círculo

Hace unos días leí The Question AI Can’t Answer, de Mark O’Donnell, en el blog de EOS Worldwide. Cuenta que en dos días armaron un agente de IA que ayuda a emprendedores a encontrar un Implementer: revisa los pedidos, busca en el directorio, sugiere presentaciones y hace seguimiento cuando nadie contesta. La pregunta que les quedó picando no fue técnica: qué pasa cuando el agente se equivoca, y quién se hace cargo.

Su conclusión, usando el Accountability Chart de EOS, es que el agente no ocupa un asiento propio. Cada asiento necesita una persona dueña del resultado. Lo que cambia es el tipo de responsabilidad: pasás de hacer el trabajo a dirigirlo y corregirlo cuando sale mal.

Coincido. Pero me quedé pensando en otra cosa: ¿esa persona tiene que validar todo, siempre?

Lo que dicen los estudios

O’Donnell menciona un artículo de Harvard Business Review sin linkearlo. Busqué un poco y hay varias investigaciones recientes que van en la misma línea:

  • Why Even Your Best Employees Override AI Systems That Work (Das Narayandas, HBR, nov-dic 2026). Las empresas implementan IA más rápido de lo que rediseñan la gobernanza. Si la persona sigue siendo responsable del resultado pero no recibe la autoridad que debería acompañarlo, pisar al sistema es una forma racional de cuidarse, aunque la IA lo haga mejor. Según el autor, ya pasó antes con los ERP, el scoring crediticio y los sistemas de revenue management.
  • When Employees Are Held Accountable for AI-Generated Decisions (Anne-Sophie Mayer y otros, HBR, julio 2026). Un estudio de campo de varios años en bancos, selección de personal y biotecnología. La gente casi nunca transmite lo que dice la IA tal cual: lo disimula, lo exagera o lo complementa. En un banco, los oficiales de crédito no podían cambiar las decisiones del sistema pero tenían que explicárselas a los clientes, y algunos clientes terminaron yéndose a la competencia.
  • Research: Why You Shouldn’t Treat AI Agents Like Employees (Kropp, Bedard, Wiles, Hsu y Krayer, HBR, mayo 2026). En un experimento a gran escala, presentar a los agentes como “empleados” bajó la responsabilidad individual, aumentó las escaladas innecesarias, empeoró la calidad de la revisión y no mejoró la adopción. Es casi la base empírica de lo que plantea O’Donnell.
  • Employees Aren’t Questioning AI Advice Enough (HBR, junio 2026). En un experimento con 2.512 personas que hacían de oficiales de crédito, la mayoría usó la IA, pero menos de la mitad quiso ver cómo llegaba a su evaluación de riesgo. Los que sí la miraron la corrigieron más seguido.

Juntos dejan algo claro: poner “un humano en el medio” no alcanza. Ese humano necesita autoridad, contexto y ganas de mirar.

No todo es mandar mails

El ejemplo que usa O’Donnell es un agente que manda 400 mails por día. Si uno sale mal, se pide disculpas y se corrige. Ahí exigir que alguien valide cada mail es caro y, peor, convierte la validación en un trámite: después del mail 50 nadie lee nada. Es lo que muestra el estudio de Kropp y su equipo: cuando la revisión se diluye, empeora.

Pero no todo es así. Aprobar un crédito, descartar a un candidato, emitir una factura, cambiar un precio en producción, contestarle a un cliente enojado, tocar datos de salud. Ahí un error no se arregla con un “perdón, fue el sistema”.

Para mí la pregunta no es si tiene que haber un humano, sino dónde y con qué intensidad. Yo me hago cuatro preguntas:

  1. ¿Se puede deshacer? Un mail mal enviado se corrige. Una transferencia o un despido, no tanto.
  2. ¿A quién afecta? No es lo mismo un borrador interno que algo que le llega a un cliente, a un empleado o a un tercero.
  3. ¿Cuánto escala el error? Un error que se repite 400 veces por día ya no es chico, aunque cada uno parezca menor.
  4. ¿Hay plata, ley o reputación en juego?

Con esas respuestas me quedan tres niveles:

  • Bajo impacto: la IA actúa sola. La persona es dueña del proceso, no de cada salida: revisa por muestreo y mira métricas.
  • Impacto medio: la IA propone y la persona aprueba por excepción, cuando un caso se sale de ciertos umbrales o el sistema no está seguro.
  • Alto impacto o irreversible: la IA asiste y la persona decide. Y tiene que poder decir que no sin que le cueste caro.

No es un invento mío. Marcos como ISO/IEC 42001 o el AI Act europeo trabajan con el mismo criterio: el control tiene que ser proporcional al riesgo.

Lo que me llevo

  • Validar todo es no validar nada. La atención humana es limitada; hay que gastarla donde importa.
  • Responsabilidad sin autoridad no funciona. Si alguien va a responder por lo que hace la IA, tiene que poder cambiarla o frenarla.
  • El nivel no es fijo. Un proceso nuevo arranca con más control y lo va soltando a medida que hay evidencia de que anda bien.
  • Lo de bajo impacto también se revisa. Los 400 mails de hoy pueden ser 4.000 mañana, con otro tono o a otra lista.

O’Donnell cierra preguntando qué significa ser responsable de un resultado cuando ya no hacés el trabajo. Mi respuesta corta: decidir dónde mirar, y mirar de verdad.

¿Y en tu empresa, dónde pusieron la línea?

¿Tu empresa está atravesando un desafío similar? Acompaño procesos de estrategia tecnológica, transformación digital y adopción de inteligencia artificial.

Seguir leyendo

¿Hablamos por WhatsApp?