← Todos los artículos
IA y gobernanza3 min de lectura

¿Cuándo dejar que la IA decida? Un marco práctico para empresas

Un marco del MIT para definir cuánta autonomía darle a la inteligencia artificial según la ambigüedad y el riesgo de cada decisión, con una lectura para las empresas de la región.

Julián ButtiGerente general de Syloper
Ilustración de una matriz de cuatro cuadrantes, cada uno con una composición de puntos distinta: una grilla ordenada, una grilla con un anillo, puntos dispersos y un único punto grande

En casi todas las conversaciones que tengo con empresas sobre inteligencia artificial aparece, tarde o temprano, la misma pregunta: ¿hasta dónde le damos autonomía? ¿Dejamos que un agente responda solo a los clientes? ¿Que apruebe una compra? ¿Que cambie un precio?

El MIT Sloan publicó un artículo con un marco muy claro para ordenar esa discusión. Lo desarrollaron investigadores del MIT Center for Information Systems Research a partir de entrevistas con 30 ejecutivos. Lo comparto con algunas reflexiones propias.

La pregunta cambia

La idea de fondo es simple: una misma capacidad de IA puede ser ideal en un contexto y peligrosa en otro. Por eso el nivel de supervisión humana no debería definirse por la tecnología, sino por el tipo de decisión en la que interviene.

Dejamos de preguntarnos dónde podemos usar IA y empezamos a preguntarnos cómo gestionamos las decisiones de negocio en las que participa.

Dos ejes: ambigüedad y riesgo

El marco, que los autores llaman AI Decision Matrix, cruza dos variables:

  • Ambigüedad: qué tan claro surge la respuesta de los datos. Una decisión poco ambigua es repetible y predecible; una muy ambigua admite varias lecturas.
  • Riesgo: qué pasa si nos equivocamos. Un error de bajo riesgo se corrige fácil; uno de alto riesgo tiene impacto económico, operativo o reputacional.

De ese cruce salen cuatro tipos de decisiones:

  1. Rutinarias (poca ambigüedad, poco riesgo). Son las mejores candidatas para automatizar, con personas cerca mientras se construye confianza. En uno de los casos del artículo, un agente que arma segmentos de audiencia para campañas de marketing redujo un 60 % el tiempo de esa tarea.
  2. Consecuentes (poca ambigüedad, mucho riesgo). Se pueden automatizar, pero con personas que monitorean, atienden las excepciones y ajustan. Por ejemplo, un agente puede resolver cambios de plan en atención al cliente, pero cualquier decisión de precios pasa por una persona.
  3. Exploratorias (mucha ambigüedad, poco riesgo). El problema se va definiendo en la interacción entre personas e IA. Es terreno de experimentación, como la generación de contenidos, con personas que corrigen antes de que un error escale.
  4. Estratégicas (mucha ambigüedad, mucho riesgo). Las personas lideran. La IA analiza, propone y acelera, pero la decisión final es humana.

Encuadrar, actuar, aprender

Otro aporte del marco es separar cada decisión en tres momentos: encuadrar (definir el problema y qué es un buen resultado), actuar (analizar opciones y ejecutar) y aprender (medir y ajustar).

Así no hace falta decidir “IA sí o IA no” para todo un proceso. En una decisión estratégica, la IA puede tener mucho protagonismo en la acción, mientras el encuadre y el aprendizaje quedan en manos de personas.

Lo que me llevo para las empresas de la región

  • Da un punto de partida concreto. Empezar por las decisiones rutinarias permite mostrar resultados rápido sin exponerse a riesgos innecesarios.
  • Obliga a nombrar responsables. Cada agente de IA debería tener una persona a cargo que lo monitoree y lo mejore. Parece obvio, pero en la práctica casi nunca pasa.
  • Pone la gobernanza en el centro. Antes de llevar un piloto a decisiones de mayor riesgo, hacen falta reglas claras sobre datos, uso responsable y validación. Estándares como la ISO/IEC 42001 van en esa dirección.
  • Invita a pensar en portafolio. Las decisiones rutinarias y consecuentes dan eficiencia en el corto plazo; las exploratorias y estratégicas construyen valor a largo plazo.

La IA no viene a reemplazar el criterio de las personas: nos obliga a ser más explícitos sobre cómo decidimos.

Es parte de lo que trabajamos desde Syloper en gobernanza de IA: definir qué decisiones puede tomar la IA, cuáles acompaña y cuáles quedan siempre en manos de personas.

¿Tu empresa está atravesando un desafío similar? Acompaño procesos de estrategia tecnológica, transformación digital y adopción de inteligencia artificial.

Seguir leyendo

¿Hablamos por WhatsApp?