El impacto de la inteligencia artificial corporativa no depende del modelo más potente, sino de quién lleva el timón

Probablemente habrás notado esto más de una vez: yo decididamente, sí. Cuando usas un chatbot de inteligencia artificial para preguntas personales, para tomar decisiones, para investigar, funciona de maravilla. Pero cuando pruebas la inteligencia artificial de tu empresa para algo más que «la inteligencia artificial del oficinista», más allá de simplemente «tradúceme esto», «contéstame esto» o «resúmeme esto»… bueno, los resultados tienden a ser bastante menos impresionantes – como digo, salvo que estemos hablando de usos puramente administrativos.

¿Por qué pasa esto? Básicamente, porque cuando lo usas tú, eres tú quien lleva el timón: las correcciones, el reencuadre, el «olvida esto, dame más de aquello», hasta que decides que la respuesta es suficientemente buena. Todo ese trabajo de supervisión es prácticamente invisible, porque se siente algo natural, como cuando lo haces con un compañero o un subordinado.

Pero en el momento en que pasas de la ayuda personal a gestionar un proceso, esa función de dirección tiene que aparecer en algún otro sitio, y eso no es necesariamente fácil. El salto de los asistentes a los equipos humano-agente, y de ahí a flujos de trabajo «dirigidos por humanos, operados por agentes», es mucho más problemático, mucho menos natural y genera bastantes más problemas de lo que parece.

Entender la diferencia entre asistencia y autonomía

La historia está en la naturaleza de los papeles de cada uno: los copilotos proponen, los humanos juzgan. En el contexto de procesos corporativos que pueden durar desde varias horas hasta varios días y atravesar distintos sistemas y departamentos, eso genera una preocupación directiva fundamentalmente diferente: ¿quién controla qué? ¿Sigue esta secuencia de acciones apuntando hacia el resultado que queríamos y en la dirección que pretendíamos?

Los agentes de larga duración, totalmente habituales y necesarios en proyectos corporativos, plantean además un problema abierto que todavía no hemos resuelto: incluso los más capaces, construidos sobre los mejores modelos del mercado, tienden a desviarse en horizontes largos, con muchas sesiones encadenadas y ventanas de contexto distintas, a menos que exista algún sistema alrededor que les ayude a mantener el progreso y la continuidad. Tenemos buenos motores, lo que nos falla es la carretera.

Los ejemplos son fáciles de encontrar: un agente que gestiona un proceso de retención de clientes tiene que redactar mensajes, elegir u ofrecer descuentos, programar seguimientos y actualizar el CRM corporativo en cada paso. Pero si una campaña de descuentos que mejora las renovaciones está dañando los márgenes, o está causando bajas seis meses después, ¿quién va a darse cuenta? Eso es exactamente lo que significa llevar el timón: no solo generar la siguiente acción, sino hacer juicios y ajustes continuos sobre si el proceso completo sigue moviéndose hacia los objetivos reales.

El modelo solo no basta

A día de hoy, creo que el principal reto ya no es demostrar que los agentes pueden llegar a funcionar. Eso ya está demostrado. El reto ahora es dotarlos de la capa de fiabilidad que realmente requieren los flujos de trabajo de alto valor añadido: políticas, permisos, monitorización, reglas para escalar y retroalimentación en producción. Incluso OpenAI ha creado un producto, Presence, diseñado específicamente para estas preocupaciones.

Pregunta sencilla: ¿le darías a un empleado brillante total libertad, sin objetivos, sin restricciones, sin supervisión y sin retroalimentación? La respuesta, la mía y supongo que la tuya también, es un no rotundo. Sin embargo, las empresas hablan hoy de agentes autónomos como si la autonomía fuera el objetivo último, cuando en realidad no lo es. El objetivo real es obtener mejores resultados, y la autonomía solo es útil cuando ayuda a la empresa a acercarse a esos resultados. Y sí, ya sé que «autónomo» es la palabra de moda ahora mismo.

Según Gartner, más del 40% de los proyectos de inteligencia artificial agéntica serán cancelados antes de finales de 2027 por problemas de coste, valor de negocio poco claro o controles de riesgo inadecuados, y muchos de los proyectos actuales están mal aplicados o todavía en fase de prueba de concepto. Y tal como yo lo veo, el problema no es falta de entusiasmo, sino falta de una capa de control fiable alrededor del trabajo autónomo.

Gobernanza, en lenguaje llano

Alguien tiene que decidir qué puede hacer un agente, qué no puede hacer, cuándo tiene que detenerse y cuándo tiene que intervenir un humano. Cuanta más autonomía tienen los agentes y menos supervisión directa reciben, más espacio hay para malentendidos o acciones no deseadas. Y aquí es donde creo que estamos confundiendo dos cosas completamente distintas: inteligencia no es lo mismo que control.

Un modelo puede ser excelente generando ideas, interpretando lenguaje o eligiendo posibles acciones. Pero control significa otra cosa: mantenerse alineado con el objetivo original independientemente de cuánto cambie el contexto o las circunstancias. Esa es la esencia de la dirección. Las grandes empresas no solo contratan personas inteligentes y se van: también definen objetivos, presupuestos, derechos de decisión, reglas de escalada, incentivos y ciclos de revisión.

La investigación de McKinsey respalda claramente la dimensión organizacional de esta idea. La firma suele asociar el rediseño de flujos de trabajo con el impacto en resultados de la inteligencia artificial generativa, y la supervisión de la gobernanza de inteligencia artificial por parte del CEO aparece correlacionada con un mayor impacto auto-reportado en el EBITDA. El éxito, según McKinsey, no consiste en tener los modelos de frontera más inteligentes y dejarlos caer sobre los procesos existentes, sino en rediseñar esos procesos y la forma en que se dirige y controla el trabajo.

Microsoft apunta en la misma dirección cuando habla de «empresas que se convierten en sistemas de aprendizaje«: las restricciones relevantes son organizacionales, no individuales. De hecho, muchos empleados están avanzando hoy más rápido que sus propias organizaciones.

Las preguntas del CEO

Cuando discuto esto con directivos en mis clases, la respuesta instintiva suele ser preguntarme cuál es el mejor modelo. Cada vez me convenzo más de que esa es la pregunta equivocada, o incluso directamente absurda. Las preguntas del nivel de CEO no son «¿cómo de inteligente es el modelo?» ni «¿cuántos agentes podemos desplegar?», sino algo más parecido a esto: «cuando este sistema actúa sin que nadie supervise cada paso, ¿qué es lo que lo mantiene apuntando hacia el resultado de negocio que realmente nos importa?»

Llevamos tres años haciendo la inteligencia artificial asombrosamente capaz. Ahora empezamos a descubrir que la capacidad sin dirección no es autonomía: es deriva. El próximo gran avance empresarial vendrá de poner un «algo» competente en un asiento que ahora mismo está vacío.

This article was previously published on Fast Company