La inteligencia artificial no puede optimizar lo que no entiende

Llevo semanas intentando describir en esta serie lo que creo que será el futuro de la inteligencia artificial corporativa. Imaginemos que alguien, en algún lugar, desarrolla una solución que cumple con todos los requisitos que he ido esbozando aquí: ¿estaría tu empresa en condiciones de adoptarla y aprovechar todas las ventajas que hemos descrito? La respuesta, en la mayoría de los casos, sería no. Y la razón es sencilla: antes de poder optimizar una empresa con inteligencia artificial, la inteligencia artificial necesita entender qué quieres optimizar. La inteligencia artificial no puede optimizar bien lo que no puede representar.

La paradoja actual es que las empresas están dando acceso a modelos cada vez más sofisticados a sus herramientas y flujos de trabajo, pero esos modelos solo tienen una representación fragmentaria del mapa de la organización que intentan optimizar. Un LLM puede saber muchísimo sobre gestión, marketing o logística —al fin y al cabo, ha «leído» prácticamente todo lo que se ha escrito sobre ello—, pero no sabe nada de tus clientes concretos, tus dependencias específicas, tus procesos burocráticos, tus excepciones habituales, tu tolerancia al riesgo o las implicaciones en cadena de cambiar un proceso. Hay que separar la memoria simple de lo que constituye un verdadero modelo de datos: la memoria puede recuperar lo que ocurrió en un momento determinado, pero un modelo de datos puede representar formalmente identidades, relaciones, permisos, restricciones y estados válidos.

No, el contexto no es comprensión

Hoy las empresas intentan salvar esa brecha proporcionando todo el contexto que pueden. El problema es que el contexto responde a cosas como qué información debe considerar el modelo en un momento dado, pero no responde a algo tan relevante como cómo funciona la organización. Si en un artículo anterior pasamos de la memoria a los modelos, ahora hay que dar el siguiente paso: pasar del contexto a un modelo de la dinámica organizacional.

El primer paso es definir una ontología, que es lo mismo que dotar a la empresa de sustantivos, verbos y reglas. Palantir lleva años intentando convencer a muchas compañías de esto, no solo porque es la manera correcta de proceder, sino también porque para hacerlo envía a sus Forward Deployed Engineers: construir ontologías a mano es caro y laborioso, lo que explica tanto la importancia de los FDEs como la economía del modelo de negocio de Palantir. Más allá de que Palantir intente apropiarse del término «ontología», de lo que estamos hablando —¡o quizás no tan simple!— es de representar entidades del mundo real como objetos, sus relaciones como enlaces y las acciones de la empresa como verbos. Una capa operacional, o algo parecido a un gemelo digital de toda la organización: una arquitectura que empareja «sustantivos» con «verbos», donde fábricas, pedidos, trabajadores o clientes están en el primer grupo, y lanzar promociones, ajustar precios, cambiar distribuidores o ejecutar un flujo de trabajo están en el segundo.

De ontologías a modelos del mundo

Pero una ontología solo te dice qué hay en la empresa y qué puedes hacer con ello. El siguiente paso es un modelo del mundo, término asociado habitualmente a la robótica y la inteligencia artificial física, pero que me resulta igualmente útil en las arquitecturas de inteligencia artificial corporativa. Un modelo del mundo va más allá: intenta aprender la dinámica que subyace a esa representación, incluido lo que es probable que ocurra a continuación. En el campo de la investigación en inteligencia artificial, un modelo del mundo es una representación interna que captura la dinámica de un entorno con suficiente fidelidad como para predecir consecuencias y apoyar la planificación. Para usar un ejemplo de IBM: una cosa es describir por qué falla una máquina, y otra muy distinta es predecir qué pasará si no se realiza ahora mismo un determinado mantenimiento preventivo.

Una empresa necesita ser capaz de entender que, por ejemplo, obligar a los operadores de atención al cliente a reducir la duración de sus llamadas tiende a aumentar la tasa de abandono, no solo que las llamadas más cortas suponen menos costes. Para ser fiable, la toma de decisiones algorítmica necesita razonamiento causal, porque las decisiones siempre implican relaciones de causa y efecto y hay que alinearlas con objetivos del mundo real. Dave Wright, veterano Chief Innovation Officer de ServiceNow, ve un enorme potencial en la aplicación de gemelos digitales de empresas enteras para simular escenarios, efectos regulatorios y mucho más.

Las compañías deberían ser dueñas de su propio aprendizaje

Una vez que tienes el modelo de tu empresa, puedes hacerlo cada vez más valioso retroalimentándolo con acciones y resultados. Capturar decisiones y sus consecuencias permite enmarcar las decisiones futuras en el contexto de las elecciones anteriores, y puede alimentar el reentrenamiento o el ajuste fino. Así, con estos bucles, la empresa empieza a ser dueña de su propio aprendizaje, como dijo Satya Nadella.

No hay que asustarse: sé que las organizaciones son complejas, dinámicas y políticamente cargadas. Una representación así no tiene que ser perfecta, y el modelo, por supuesto, tendrá que ser parcial, abierto, revisable y gobernado. El objetivo no es construir un oráculo omnisciente, sino una representación que mejore con el tiempo. La idea es convertir la representación que una empresa tiene de sí misma en el activo duradero. Dos empresas pueden usar exactamente el mismo modelo frontera, la misma versión de Claude, ChatGPT, Qwen o cualquier otro LLM, pero ese modelo puede convertirse progresivamente en el motor que opera dentro de algo mucho más valioso: la representación propietaria que cada empresa ha construido de sí misma, con su propio contexto, sus reglas, su historia y su aprendizaje acumulado.

Hay que pasar de la idea de la empresa optimizable a una más interesante: la empresa comprensible, porque antes de que una empresa pueda ser optimizada, tiene que ser comprensible para la inteligencia que intenta optimizarla.

Pasamos décadas digitalizando empresas para que el software pudiera registrar lo que hacen. El siguiente paso será modelarlas para que la inteligencia artificial pueda entender qué significan sus acciones. Pronto, este tipo de herramientas empezarán a estar disponibles, y la pregunta será si tu empresa está preparada para adoptarlas.

Es hora de estarlo….

This article was previously published on Fast Company.