Durante la primera etapa de adopción de inteligencia artificial, gran parte de la conversación estuvo centrada en productividad.

Cuánto tiempo podía ahorrarse.

Qué tareas podían automatizarse.

Cuánta información podía procesarse.

Después apareció otra pregunta:

¿qué decisiones puede tomar la IA y cuáles deberían seguir siendo humanas?

Pero incluso esa formulación puede quedarse corta.

Porque una persona puede conservar formalmente la decisión final y haber cedido buena parte del proceso que construyó esa decisión.

La IA pudo haber organizado la información.

Definido qué variables parecían importantes.

Generado las alternativas.

Comparado riesgos.

Descartado opciones.

Y presentado una recomendación.

Al final, alguien sigue diciendo sí o no.

Pero aprobar una recomendación no necesariamente significa haber gobernado cómo se llegó hasta ella.

Una decisión empieza antes de elegir.

Solemos localizar una decisión en el momento final:

“Elegimos A.”

“Avancemos con esta alternativa.”

“Descartamos la otra.”

Pero una parte importante de la decisión ocurrió antes.

Ocurrió cuando alguien definió cuál era el problema.

Cuando seleccionó qué información merecía atención.

Cuando determinó qué variables quedaban dentro y cuáles afuera.

Cuando construyó las alternativas.

Y cuando estableció qué significaba que una opción fuera “mejor”.

La investigación de Csaszar, Ketkar y Kim (2024) resulta especialmente pertinente porque analiza el uso de modelos de lenguaje en procesos de decisión estratégica y distingue tres actividades sobre las que la IA puede intervenir: búsqueda de alternativas, representación del problema y agregación de información. Sus experimentos encontraron que los modelos podían desempeñarse de manera comparable a emprendedores e inversores en determinadas tareas estratégicas.

Eso amplía significativamente la capacidad de análisis.

También vuelve insuficiente una idea demasiado simple de supervisión humana.

Porque el problema ya no es solamente:

“¿Quién aprieta el botón al final?”

La pregunta es:

“¿Quién gobernó el proceso mediante el cual algunas alternativas llegaron a parecer mejores que otras?”

Producir un buen análisis no equivale a ejercer criterio.

Una IA puede encontrar relaciones que una persona no había considerado.

Puede comparar escenarios.

Puede detectar inconsistencias.

Puede ordenar documentación extensa.

Puede generar alternativas rápidamente.

Todo eso puede mejorar una decisión.

Pero todavía queda una tarea diferente:

establecer qué debe tener mayor peso.

• Costo.
• Tiempo.
• Continuidad.
• Impacto sobre personas.
• Reputación.
• Reversibilidad.
• Calidad.
• Riesgo.

No existe una ponderación universal de esos criterios.

Dos alternativas pueden ser técnicamente razonables y expresar decisiones completamente diferentes porque responden a prioridades distintas.

La tecnología puede ayudar a mostrar esas diferencias.

No asume las consecuencias de elegir una.

Ahí aparece una distinción importante:

analizar mejor no reemplaza la responsabilidad de decidir.

La autoridad puede perderse sin que nadie la delegue formalmente.

Una organización no necesita declarar:

“Ahora decide la IA.”

La transferencia puede ocurrir de forma mucho más gradual.

Primero se utiliza para resumir.

Después para comparar.

Luego para construir opciones.

Más tarde para evaluar esas opciones.

Finalmente, el responsable recibe una recomendación organizada y dispone de pocos minutos para aprobarla.

Formalmente continúa siendo quien decide.

Pero puede haber dejado de comprender suficientemente:

• qué información entró;
• qué quedó afuera;
• qué criterio ordenó las opciones;
• qué supuesto produjo la recomendación;
• y qué cambiaría si ese supuesto fuera incorrecto.

Entonces la supervisión humana existe en el organigrama.

No necesariamente existe con suficiente contenido.

La investigación sobre automation bias muestra precisamente que mantener una persona formalmente dentro del circuito no garantiza una revisión significativa: las personas pueden sobreconfiar en recomendaciones automatizadas y reducir su propio procesamiento del problema (Ruschemeier & Hondrich, 2024).

Por eso:

aprobar no es lo mismo que gobernar.

Supervisión humana no significa simplemente “un humano al final”.

Una política puede exigir que una decisión importante tenga revisión humana.

Eso parece resolver el problema.

Pero todavía hace falta saber qué puede hacer realmente esa persona.

• ¿Conoce los criterios utilizados?
• ¿Puede cuestionar la recomendación?
• ¿Comprende suficientemente el proceso?
• ¿Puede solicitar otra alternativa?
• ¿Puede detenerlo?
• ¿Tiene autoridad para apartarse de la sugerencia?

El marco de gestión de riesgos de IA de NIST enfatiza que los roles humanos, las responsabilidades de supervisión y las estructuras de gobernanza necesitan definirse de manera explícita a lo largo del ciclo de vida del sistema, no solamente en el último momento (Tabassi, 2023).

Una firma humana al final de un proceso automatizado puede aportar muy poco si todo lo anterior resulta prácticamente inaccesible para quien firma.

Conservar autoridad no significa hacerlo todo personalmente.

La respuesta tampoco es retirar la IA del proceso.

Un responsable no necesita reunir personalmente cada dato.

No necesita redactar cada alternativa.

No necesita ejecutar cada cálculo.

No necesita renunciar a una herramienta capaz de ampliar significativamente su análisis.

Conservar autoridad significa otra cosa:

seguir gobernando el marco dentro del cual la asistencia ocurre.

Puede delegarse la búsqueda.

No necesariamente la definición del problema.

Puede pedirse una comparación.

Pero conviene decidir antes qué criterios importan.

Puede solicitarse una recomendación.

Pero debería exigirse que explicite supuestos y límites.

Puede automatizarse una parte del análisis.

Pero alguien necesita seguir siendo responsable por aquello que ocurrirá después.

La IA puede ampliar el pensamiento sin convertirse en propietaria silenciosa del proceso.

Seis preguntas antes de aceptar una recomendación.

1. ¿Quién formuló el problema?

Una respuesta excelente puede resolver perfectamente el problema equivocado.

Antes de consultar conviene poder expresar con palabras propias:

• qué está ocurriendo;
• qué decisión está pendiente;
• y qué no debería confundirse con el problema central.

2. ¿Qué información quedó adentro y cuál quedó afuera?

Todo análisis selecciona.

Conviene reconocer qué documentos, antecedentes, datos o perspectivas fueron considerados.

Y cuáles no.

Una omisión no invalida automáticamente la respuesta.

Pero debería ser visible.

3. ¿Qué criterio está ordenando las alternativas?

Una opción puede ser mejor por velocidad y peor por sostenibilidad.

Más económica y más vulnerable.

Más segura y menos reversible.

La IA puede comparar.

Quien decide necesita establecer qué criterio tendrá mayor peso.

4. ¿Qué alternativa desapareció demasiado pronto?

Una respuesta bien organizada puede hacer que algunas posibilidades parezcan obvias y otras irrelevantes.

Conviene preguntar:

• ¿Qué opción no estamos considerando?
• ¿Qué explicación contradice esta interpretación?
• ¿Qué ocurriría si el supuesto principal fuera incorrecto?

5. ¿Puedo explicar por qué esta alternativa merece ser elegida?

Si el responsable necesita volver a leer la respuesta generada para explicar por qué eligió, todavía puede existir demasiada distancia entre la recomendación y su propio criterio.

Comprender no significa reproducir técnicamente todo el modelo.

Significa poder explicar:

• qué se decidió;
• por qué;
• qué costo se acepta;
• y bajo qué condición se revisaría.

6. ¿Quién asumirá las consecuencias?

La IA no comunica la decisión al equipo.

No redefine responsabilidades.

No sostiene una conversación difícil.

No explica por qué algo quedó afuera.

No responde ante un cliente.

No conduce la ejecución.

La responsabilidad humana no aparece solamente en el momento de aprobación.

Se confirma después.

La velocidad puede ocultar una pérdida de comprensión.

Una de las ventajas más visibles de la IA es reducir tiempo.

Eso puede ser extremadamente valioso.

Buscar antecedentes puede acelerarse.

Ordenar datos puede acelerarse.

Construir escenarios puede acelerarse.

Comparar documentos puede acelerarse.

Pero no necesariamente todas las etapas de una decisión deberían comprimirse del mismo modo.

Definir criterios puede necesitar otra atención.

Reconocer consecuencias también.

Lo mismo ocurre con aquello que no estamos dispuestos a delegar.

La respuesta inmediata produce una sensación de avance.

Pero la velocidad con que aparece una alternativa no indica cuánto comprendemos el campo desde el cual fue construida.

La ventaja no consiste solamente en decidir más rápido.

Consiste en saber qué conviene acelerar y qué necesita seguir recibiendo pensamiento humano deliberado.

La IA puede ser una interlocutora y no solamente una proveedora de respuestas.

Existe una forma especialmente útil de utilizarla.

No pedirle solamente:

“¿Qué debería hacer?”

Sino utilizarla para ampliar y tensionar una lectura propia.

• ¿Qué supuesto estoy dando por cierto?
• ¿Qué variable podría estar ignorando?
• ¿Qué argumento cuestionaría esta alternativa?
• ¿Qué consecuencia no estoy viendo?
• ¿Qué información cambiaría realmente la decisión?
• ¿Qué escenario estoy descartando demasiado rápido?

Así la herramienta deja de funcionar únicamente como generadora de respuestas.

Puede convertirse en una contraparte para examinar una decisión.

Pero esa relación exige que la persona llegue con algo propio:

• una formulación;
• una hipótesis;
• un criterio inicial;
• y conciencia de aquello sobre lo que sigue siendo responsable.

Gobernar la IA también es gobernar responsabilidades.

Cuando una decisión asistida produce consecuencias, conviene poder reconstruir quién hizo qué.

• Quién formuló el problema.
• Quién seleccionó la información.
• Quién definió los criterios.
• Quién configuró o eligió la herramienta.
• Quién revisó el resultado.
• Quién podía apartarse de la recomendación.
• Quién tomó la decisión.
• Y quién responde por su ejecución.

NIST plantea la gobernanza como una dimensión transversal de la gestión de riesgos de IA e incluye la necesidad de definir roles y responsabilidades humanas de manera explícita (Tabassi, 2023).

Cuando todas esas responsabilidades terminan resumidas en:

“La IA recomendó esto.”

la organización perdió información sobre su propio proceso decisional.

Para revisar.

Pensá en una decisión reciente en la que utilizaste inteligencia artificial.

No revises solamente la respuesta final.

Reconstruí el proceso.

• ¿Qué parte del problema habías formulado antes de consultar?
• ¿Qué información aportaste?
• ¿Qué información seleccionó o priorizó la herramienta?
• ¿Qué alternativa apareció porque la IA la propuso?
• ¿Qué criterio utilizó para compararla con las demás?
• ¿Qué supuesto aceptaste sin discutir?
• ¿Podrías explicar la decisión sin volver a abrir la conversación con la IA?
• ¿Sabés qué condición justificaría revisarla?

Y, sobre todo:

¿la herramienta amplió tu capacidad para decidir o terminó organizando un proceso que después solo aprobaste?

Conclusión.

La inteligencia artificial puede ampliar extraordinariamente la capacidad de analizar.

Puede encontrar información.

Construir escenarios.

Detectar relaciones.

Comparar alternativas.

Cuestionar hipótesis.

Eso no reduce la importancia de la autoridad decisional.

La vuelve más exigente.

Porque ya no alcanza con conservar formalmente la última palabra.

También importa quién define el problema, quién establece los criterios, quién comprende los supuestos y quién puede explicar por qué una alternativa debe gobernar la acción.

La nueva ventaja no consiste solamente en obtener mejores respuestas.

Consiste en poder utilizar sistemas cada vez más capaces sin dejar de gobernar cómo una situación se convierte en decisión.

La pregunta final no es:

“¿La IA decidió por mí?”

Es más incómoda:

“¿Cuánto del proceso que produjo esta decisión sigo siendo capaz de comprender, cuestionar y conducir?”

Próximo movimiento.

Cuando una decisión combina mucha información, presión de tiempo, alternativas plausibles y consecuencias difíciles de ordenar, una conversación puede servir para revisar el problema, los criterios y la participación que tendrá la IA antes de avanzar.

Referencias.

Csaszar, F. A., Ketkar, H., & Kim, H. (2024). Artificial intelligence and strategic decision-making: Evidence from entrepreneurs and investors. SSRN. https://doi.org/10.2139/ssrn.4913363

Ruschemeier, H., & Hondrich, L. J. (2024). Automation bias in public administration: An interdisciplinary perspective from law and psychology. Government Information Quarterly, 41(3), 101953. https://doi.org/10.1016/j.giq.2024.101953

Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1