Dejemos de crear empleados digitales y empecemos a construir empresas inteligentes

Cuantas más noticias leemos sobre la evolución de las ofertas e implementaciones de inteligencia artificial en el ámbito corporativo, más me preocupa un aspecto: el sector está convirtiendo rápidamente a los agentes de inteligencia artificial en una especie de empleados simulados.

Parece haber una carrera por trasladar el organigrama al mundo digital: Microsoft asigna a los agentes identidades, patrocinadores, derechos de acceso y una gestión de su ciclo de vida similar a la de un empleado, además de gobernarlos de forma explícita, tal como se hace con las identidades humanas. Salesforce, por su parte, llega a definir a los agentes como «trabajadores digitales» y promueve el concepto de una fuerza laboral digital que busca imitar las capacidades humanas. ServiceNow, a su vez, ha introducido «pasaportes de inteligencia artificial» individuales que especifican qué puede hacer cada agente durante su ejecución.

Todo parece indicar que lo que estamos intentando hacer es replicar la organización humana mediante software, en lugar de plantearnos cómo debería ser una organización verdaderamente nativa de las máquinas. Hoy en día, las empresas y los directivos presumen de la cantidad de agentes que supervisan, como si se tratara de una especie de «medalla de honor». Como suele ocurrir —y como recalco en todos mis cursos sobre innovación—, aprender resulta mucho más fácil que desaprender.

¿Tiene sentido definir nuestra arquitectura utilizando la metáfora del empleado?

¿Por qué nos aferramos a esa metáfora? Las organizaciones humanas cuentan con roles y jerarquías, en parte, porque los seres humanos tenemos limitaciones en nuestra capacidad de atención, memoria y comunicación. Sin embargo, no hace falta que te explique que el software no tiene estas restricciones y, por tanto, no tiene por qué heredar dichas limitaciones.

Puedes optar por este enfoque si lo deseas, o bien porque no se te ocurre una alternativa mejor: al fin y al cabo, la gestión de identidades y permisos es necesaria. Pero ten en cuenta que este antropomorfismo terminará, tarde o temprano, convirtiéndose en deuda técnica. Un conjunto de agentes cada vez más autónomos puede recrear silos, generar incentivos contrapuestos e incluso añadir una carga adicional de coordinación; solo que, en este caso, a la velocidad de las máquinas.

Los agentes deben ser reemplazables, no institucionales.

Quizás lo que deberíamos hacer es tratar a los agentes como un proceso de ejecución temporal: instanciados para un fin concreto, limitados, supervisados… y descartados. Entre otras razones, porque debemos evitar a toda costa que el conocimiento, la identidad o el historial operativo queden atrapados dentro de agentes específicos. Del mismo modo que los modelos deben ser componentes reemplazables, también deberían serlo los agentes.

Entiendo que los agentes de inteligencia artificial son algo relativamente nuevo y que los directivos aún los perciben como una especie de «elemento mágico». Sin embargo, esta «mística de los agentes» debería llegar a su fin lo antes posible. Un agente es un proceso de software dotado de un objetivo, un conjunto de herramientas, acceso a un contexto y a una memoria, además de cierta capacidad para decidir qué hacer a continuación; todo ello debería permitir, idealmente, generar bucles de retroalimentación o de aprendizaje. Pero debemos dejar de tratarlos como si fueran mágicos, y mucho menos como algo «similar a un ser humano». No lo son.

La metáfora del «empleado» puede resultar útil para la adopción y la gestión de accesos, pero es totalmente inadecuada como arquitectura fundamental de una empresa inteligente.

Más allá del agente

Cuando consideramos a los agentes como componentes reemplazables en lugar de permitir que se conviertan en nuevos compartimentos estancos dentro de la organización, todo lo que la empresa aprende debe existir de forma independiente a ellos. La representación formal que la empresa tiene de sí misma, desde sus clientes hasta sus productos, empleados, proveedores, contratos y procesos, junto con todas las relaciones entre ellos, debe permanecer. Es a lo que suelo referirme cuando explico estas cosas como «los sustantivos» y «los verbos», y lo que Palantir denomina pomposamente «la ontología», como si la hubiesen descubierto ellos.

Pero también debe preservarse el estado operativo de la empresa: no solo lo que existe, sino también lo que está ocurriendo, lo que ha cambiado y lo que sigue sin resolverse, junto con los objetivos y las concesiones (trade-offs) definidos por la dirección, los permisos que rigen cada acción y las reglas que determinan cuándo una decisión debe elevarse a un nivel superior.

Lo mismo ocurre con la memoria institucional: cada decisión, acción y resultado relevante debe quedar registrado en un diario que ningún agente o modelo pueda modificar de forma silenciosa; esto crea un registro fiable de cómo la organización ha llegado a su estado actual. Mantener un control riguroso sobre la integridad de dicho registro es fundamental para la rendición de cuentas futura y, como bien sabemos hoy en día, incluso para la ciberseguridad.

Dicho registro debe, a su vez, influir en el comportamiento futuro, permitiendo que la empresa aprenda de sus éxitos, fracasos y consecuencias imprevistas. Los modelos pueden actualizarse o sustituirse, los agentes pueden crearse o retirarse, y los flujos de trabajo pueden rediseñarse por completo; sin embargo, la experiencia acumulada por la organización debe permanecer. De lo contrario, la empresa no está aprendiendo: simplemente está contratando, una y otra vez, a supuestos seres inteligentes pero que padecen todos amnesia.

Inteligencia individual frente a inteligencia organizacional

En el ámbito de la inteligencia artificial corporativa, debemos comprender que la unidad de análisis relevante debería ser el ciclo organizacional, y no una especie de «trabajador sintético». Contar con mejores modelos puede potenciar el rendimiento cognitivo individual, y añadir más agentes puede incrementar la actividad disponible, haciendo de paso que sus supervisores se sientan más importantes, pero nada de esto garantiza, por sí solo, que la empresa aprenda de manera coherente.

La próxima plataforma empresarial no se parecerá a un sistema de gestión de personal o de supervisión para bots; ese, claramente, no es el objetivo. Se tratará, más bien, de un sustrato persistente en el que sea posible intercambiar modelos y agentes, mientras la inteligencia acumulada por la empresa permanece protegida y bajo control.

Lo que aún falta es una categoría de producto capaz de preservar el estado, la autoridad, las evidencias y el aprendizaje a través de distintos modelos y agentes. Pero no os preocupéis: no faltará para siempre.

Manténgase atentos a este canal.

(This article was previously published on Fast Company)