¿Es CEO y quiere matar a su empresa? Tome decisiones con una IA

Son cada vez más los altos directivos que usan Inteligencia Artificial como consejeros o consultores. Ya existen casos documentados que muestran daños financieros y reputacionales importantes, por tomar decisiones a partir de las fallas de la IA. Y lo más costoso es remediar los problemas que generaron estas malas decisiones, ya que hay que contratar profesionales humanos de alto perfil.

¿Por qué este es un tema de Ciberseguridad? Porque la Ciberseguridad no se limita a bloquear ciberataques: incluye la integridad y confiabilidad de lo que producen los sistemas y de las decisiones que se apoyan en ellos.

Imaginemos la siguiente situación. Estamos preocupados y ocupados de nuestras finanzas personales. Decidimos utilizar una planilla de cálculo para volcar toda nuestra información y tomar buenas decisiones que nos permitan, por ejemplo, generar un ahorro para realizar un viaje. Lo lógico sería usar un software que realizara correctamente y sin errores los cálculos que le pedimos para, por ejemplo, decidir la mejor forma de llegar a cumplir el objetivo. ¿Qué pasaría si alguien nos recomienda una planilla de cálculo que, por ejemplo, cada vez que detecta una columna que dice la palabra “ahorro” aumenta los números que se registran en ella porque su programación tiene como objetivo hacernos sentir más cerca de nuestra meta? ¿Usaríamos ese programa? Es algo que no tendría sentido, pero sin embargo esto es una versión simplificada de lo que muchos directivos de empresas hacen hoy con las IAs.

Cuando un CEO le pidió a ChatGPT que lo ayudara a evitar un pago de 250 millones de dólares (y le resultó muy mal)

Si bien esto se desencadenó el pasado año 2025, todo comienza en 2021, cuando la editora surcoreana Krafton compró Unknown Worlds, el estudio creador de Subnautica (una saga de videojuegos de supervivencia), por 500 millones de dólares, con una cláusula de hasta 250 millones adicionales en pagos contingentes, es decir, pagos sujetos al cumplimiento de ciertas metas.

En 2025, las proyecciones internas de ventas de la secuela del videojuego, Subnautica 2, indicaban que ese pago adicional probablemente se activaría con cifras entre 191,8 y 242,2 millones de dólares, según el escenario. Changhan Kim, director ejecutivo de Krafton, consideraba que la empresa había pagado demasiado inicialmente y le preocupaba que aceptar el nuevo pago le diera una imagen de mal negociador. Antes que aceptar el consejo de su equipo, recurrió a ChatGPT.

Según lo que quedó documentado en el fallo de la jueza Lori Will, del Tribunal de Chancery de Delaware, donde se realizó el juicio por los daños producidos esta mala decisión, Kim le consultó a ChatGPT como desarrollar una estrategia de “toma de control” del estudio Unknown Worlds. (https://law.justia.com/cases/delaware/court-of-chancery/2026/2025-0805-lww.html)

Lo que vale la pena analizar es la secuencia de los hechos. De acuerdo con la sentencia, cuando ChatGPT respondió que cancelar el pago sería difícil, Kim no aceptó esa respuesta. Siguió presionando a la IA y preguntándole qué pasos dar de todos modos. Por recomendación de ChatGPT, formó un grupo de trabajo con el mandato de renegociar el pago o tomar el control del estudio. El plan incluía bloquear el acceso a plataformas de distribución como Steam y despedir a los dos fundadores y al director ejecutivo del estudio con un motivo inventado. Krafton siguió el plan al pie de la letra. Mientras tanto, su equipo, incluida la jefa de desarrollo corporativo, le advirtió que un despido con causa falsa podía exponer a la empresa a un juicio y a un riesgo reputacional, y que esto no eliminaría la obligación del pago.

Además, las respuestas de ChatGPT eran fluidas, seguras y estaban alineadas con lo que Kim ya había decidido, lo que contribuyó a que ignorara las advertencias de su propio equipo. (https://finance.yahoo.com/news/gaming-ceo-asked-chatgpt-avoid-192340700.html)

El conflicto entre Krafton y Unknown Worlds por el pago de hasta 250 millones de dólares adicionales por Subnautica 2 expuso los riesgos de utilizar ChatGPT para definir una estrategia empresarial sin atender las advertencias del equipo.

Las consecuencias empezaron en 2025. Krafton despidió a los fundadores y al CEO de Unknown Worlds en julio de ese año y postergó el lanzamiento de Subnautica 2 hasta 2026, un año más tarde de lo previsto. Fortis Advisors, en representación de los antiguos accionistas de Unknown Worlds, demandó a Krafton en julio de 2025. Los fallos y los acuerdos llegaron en 2026. El 16 de marzo de 2026, el Tribunal de Chancery de Delaware resolvió a favor de Unknown Worlds en la primera fase del litigio. Concluyó que Krafton incumplió el contrato al despedir a los ejecutivos sin causa válida y al tomar indebidamente el control operativo del estudio. Consideró que las nuevas justificaciones de los despidos eran pretextos, fabricados después de los hechos, y que Kim actuó de mala fe. Ordenó restituir a Ted Gill como director ejecutivo y extendió 258 días el período del pago adicional, hasta el 15 de septiembre de 2026. Los daños por ese pago quedaron reservados para una segunda fase. El 1 de julio de 2026, Krafton informó que la demandante había retirado el caso tras un acuerdo cuyos montos no se hicieron públicos. Según lo informado, Krafton pagará bonos a todo el equipo de Subnautica 2 en tres cuotas anuales, y Ted Gill, restituido por el tribunal, dejó el cargo de común acuerdo. (https://www.gosugamers.net/entertainment/news/78138-krafton-ordered-to-reinstate-subnautica-2-ceo-extend-250-million-bonus-window-after-legal-dispute)

En este punto hay que ser muy precisos en el análisis. ChatGPT no tomó la decisión: la tomó un directivo que ya sabía lo que quería y a quien su propio equipo había advertido de lo contrario. Este caso funciona como un modelo a escala reducida de algo mayor: una persona con autoridad delega en un sistema que habla con seguridad y el sistema se equivoca con la misma seguridad.

Una tecnología indistinguible de la magia

Arthur C. Clarke formuló en su tercera ley que cualquier tecnología suficientemente avanzada es indistinguible de la magia. La frase suele leerse como elogio. Conviene leerla también como advertencia: la magia no se audita. Quien no entiende cómo funciona algo deja de hacerle las preguntas que le haría a una herramienta y empieza a hacerle las que le haría a un oráculo.

Un modelo de lenguaje produce texto plausible. Entre las personas, la fluidez suele indicar conocimiento, porque articular una explicación coherente exige, en general, haber comprendido el tema. En una IA esa conexión se rompe: puede escribir con seguridad sobre lo que no sabe. Un ejecutivo acostumbrado a evaluar a sus subordinados por la claridad de sus exposiciones y aplica el mismo criterio a las respuestas de una, IA está utilizando un parámetro equivocado.

Y es aquí donde aparece la primera ley de Aldegani para la Ingeniería: la única forma de usar responsablemente una tecnología es entender sus límites, comprender sus fallas, usarla razonablemente dentro de estas características y trabajar para mejorarla. Es una ley que, cuando se aplica al uso de las IAs, les sugiere a los humanos que analicen en qué se equivoca la herramienta antes de apoyarse en ella para una decisión, pero no todos lo hacen.

¿Cuánto se consulta, realmente?

Una encuesta de la firma Board a 300 altos ejecutivos estadounidenses, de organizaciones con ingresos de al menos 100 millones de dólares, encontró que el 61% citaba los modelos de lenguaje entre las fuentes que más influyen en sus decisiones estratégicas. Esa cifra superaba a la de los pares y redes profesionales (42%), los proveedores tecnológicos (37%) y los consultores externos (28%). Y agrega un datos más ipreocupantes: el 48% de los directores financieros seguiría la recomendación de la IA aunque contradijera su propio juicio, frente al 33% de los directores de tecnología y el 11% de los de operaciones. (https://www.cfodive.com/news/ai-tops-list-resources-influencing-execs-decisions/830596/)

Otro estudio, realizado por la agencia 3Gem entre 200 líderes empresariales del Reino Unido, halló que el 62% usa IA para tomar “la mayoría de las decisiones”, y el 46% confía más en el consejo de la IA que en el de sus colegas. También informó que 140 de los 200 encuestados (el 70%) dudaban de sus propias ideas cuando entraban en conflicto con la recomendación de la IA. (https://futurism.com/artificial-intelligence/ai-executive-thinking-survey)

Pero existe otro informe que aclara algunos temas. El informe de Capgemini, basado en 500 ejecutivos, concluye que el 17% incorpora la IA de forma habitual en sus decisiones, y que solo el 1% espera que tome decisiones estratégicas de manera autónoma en los próximos uno a tres años. Y cuando la recomendación contradice su criterio, solo el 1% la sigue sin más y el 16% la descarta; el 56% prefiere discutirla con la IA para refinar la decisión. (https://www.capgemini.com/insights/research-library/ai-and-decision-making/)

Tomados en conjunto, los estudios describen una práctica extendida, desigual y poco medida. No prueban que la mayoría decida a ciegas, pero sí muestran que, para muchos directivos, la IA ya compite con consultores y pares como fuente de influencia, y que esa sustitución ocurre sin que haya un acuerdo claro sobre cómo se verifica lo que la IA dice.

Cuando la IA se convierte en una fuente de consulta habitual para los líderes empresariales, la revisión crítica de sus recomendaciones resulta clave para evitar que los sesgos y las decisiones apresuradas se trasladen a toda la organización.

Falla 1: el consejero que nunca contradice

Un consejero útil es el que, a veces, dice lo que uno no quiere oír. Un estudio publicado en marzo de 2026 en la revista Science denominado “Sycophantic AI decreases prosocial intentions and promotes dependence” ( La IA complaciente disminuye las intenciones prosociales y fomenta la dependencia), realizado por Myra Cheng y Dan Jurafsky, de la Universidad de Stanford, puso a prueba a 11 sistemas de IA. Encontró que todos mostraban distintos grados de adulación y que en promedio avalaban las acciones del usuario un 49% más a menudo que otras personas, incluso en consultas sobre engaño o conductas ilegales o socialmente irresponsables.

Y existe un hallazgo más inquietante. Los usuarios prefieren y confían más en los sistemas complacientes, lo que crea un incentivo para que ese comportamiento continúe. Esto se trata de un problema distinto al de las alucinaciones: el usuario puede no buscar datos falsos, pero sí preferir respuestas que confirmen sus decisiones. Paradójicamente, estos comportamientos de la IA, dañinos para el usuario, terminan aumentando su uso. (https://sciencemediacentre.es/en/ai-chatbots-reinforce-users-misconceptions-agreeing-them-too-readily)

Esto tiene una consecuencia directa para quien dirige una empresa. Los altos directivos ya viven rodeados de gente que tiende a darles la razón, por jerarquía y por prudencia. Una IA con inclinación a agradar no corrige ese sesgo, lo amplifica y lo hace con una disponibilidad de veinticuatro horas. La pregunta “¿es buena mi idea?” se responde, con demasiada frecuencia, con una versión elaborada con muchas palabras de “sí”.

Falla 2: la métrica legible

En febrero de 2024, la Fintech Klarna anunció que su asistente de IA hacía el trabajo de 700 agentes de atención al cliente y había asumido el 75% de los chats en su primer mes, con 2,3 millones de conversaciones. La empresa había congelado la contratación de personal no técnico en diciembre de 2023 y estimaba que el asistente mejoraría su beneficio en 40 millones de dólares. Su director ejecutivo, Sebastian Siemiatkowski, había afirmado que la IA ya podía hacer todos los trabajos de la compañía. (https://www.entrepreneur.com/business-news/klarna-ceo-reverses-course-by-hiring-more-humans-not-ai/491396).

Tiempo después se publicó una rectificación. Siemiatkowski reconoció ante Bloomberg que el costo había sido un factor de evaluación demasiado predominante y que eso perjudicó la calidad del servicio y la empresa pasó a contratar de nuevo agentes humanos.

El caso de Klarna no es, estrictamente, una consulta a un chatbot. Pero ilustra con claridad el error de fondo. Las métricas que una IA hace brillar son las legibles: chats resueltos, tiempo de respuesta, costo por conversación. Lo que no aparece en el tablero es la frustración de un cliente con un problema complejo que rebota entre sistemas. Una empresa puede cumplir todos sus indicadores mientras realiza acciones negativas que los indicadores no miden.

Falla 3: la fluidez sin verificación

Verificar cuesta más que generar. Esa asimetría explica por qué el control suele omitirse. Un modelo escribe un informe en segundos, pero comprobar cada cita lleva horas. Cuando la presión es alta, se verifica menos.

El caso de Deloitte Australia es un ejemplo de esto. La consultora preparó para el Gobierno australiano un informe que costó 440.000 dólares australianos sobre un sistema de cumplimiento de requisitos de asistencia social. Se detectaron referencias a trabajos académicos inexistentes y una cita falsa atribuida a una sentencia de un tribunal federal. La versión corregida incorporó la información de que se había usado ChatGPT para completar vacíos de trazabilidad y documentación. Deloitte reembolsó la última cuota del contrato, y sostuvo que las correcciones no afectaban el contenido sustantivo, los hallazgos ni las recomendaciones. (https://www.neowin.net/news/deloitte-agrees-to-refund-australian-government-after-ai-hallucinations-found-in-report/)

Deloitte no es un CEO que consulta a una IA, es una muestra de como un equipo de consultores humanos, al que muchos directivos acuden para contrastar sus decisiones, puede estar usando, a su vez, una IA sin que el cliente lo sepa. Recordemos que la empresa anunció que invertirá 3.000 millones de dólares en IA generativa hasta 2030.

El daño de decidir mal con IA es real

Según cifras de Orgvue, la empresa de consultoría especializada en la planificación de la fuerza laboral y el análisis organizacional, el 39% de los líderes empresariales despidió empleados como resultado de implementar IA. Y según Robert Half, una de las primeras y mayores firmas globales de soluciones de talento fundada en 1948, el 32% de los gerentes de contratación estadounidenses eliminó un puesto principalmente por la IA y luego volvió a contratar para el mismo cargo o uno similar. IBM reemplazó funciones de recursos humanos por IA que resolvía cerca del 94% de las consultas rutinarias, pero no podía con el 6% restante, que incluía dilemas éticos, luego anunció que triplicaría su contratación de personal de nivel inicial en Estados Unidos en 2026.

Los pronósticos apuntan en la misma dirección. Gartner proyecta que para 2027 la mitad de las organizaciones que esperaban reducir de forma significativa su personal de atención al cliente abandonará esos planes.

¿Cómo usar IA para dirigir una empresa?

Usar la IA para generar objeciones, no aprobaciones: El estudio de Science sugiere una intervención simple: que el sistema desafíe al usuario. Los autores sugieren que ajustar el comportamiento del modelo puede reducir la complacencia; incluso empezar el pedido con “Espera un momento” podría ayudar. Pedir el argumento más fuerte en contra de una decisión es más informativo que pedir su validación.
Clasificar las decisiones por su reversibilidad: Una recomendación sobre el tono de un correo puede aceptarse sin ceremonia. Un despido masivo, una fusión o un cambio de modelo de atención al cliente no se pueden deshacer sin costo y requieren verificación independiente de lo que el modelo afirma.
Verificar los hechos, no la prosa: Cada cifra, cada cita y cada precedente que sostiene una decisión debe poder rastrearse a una fuente que no sea el modelo. Si no se puede, esa premisa no existe.
Medir lo que el tablero no muestra: Antes de reemplazar personas, definir qué indicadores de calidad se vigilarán y quién tiene autoridad para frenar el proceso cuando empeoren.
Poner la revisión en el proceso: Ninguna verificación crítica debería depender de que alguien, en algún punto de la cadena, la haya hecho por su cuenta.
Mantener al responsable a la vista: La decisión siempre es del directivo, debe quedar documentado quién decidió, con qué información y qué parte provino de la IA, de modo que nadie pueda decir después que “lo dijo el la IA”.

Una cuestión de confianza

Hay una pregunta que en la Ciberseguridad se hace siempre y que los directivos hacen poco: ¿quién gana si el consejero se equivoca, y quién paga? Un consultor humano arriesga su reputación. Una IA no arriesga nada y está programada para retener a los usuarios a través de su complacencia.

Esto no vuelve inútil a la IA. Es razonablemente eficiente para resumir, ordenar, proponer alternativas y detectar omisiones, y muchos ejecutivos la usan de esta manera. Lo que no se debe hacer es transferir la responsabilidad, ni confiar que lo que dice la IA se corresponda con la verdad. La confianza en una herramienta se gana conociendo cuándo esta falla. Un directivo que ignora esto no está tomando una decisión mejor informada: está haciendo un acto de fe basado en lo que contesta un software, disfrazado de método de investigación.

Leer más

Fuente: Artículo original