El Papa, la inteligencia artificial y el pecado de no señalar con el dedo

El pasado 15 de mayo, el papa León XIV firmó Magnifica Humanitas, su primera encíclica, dedicada íntegramente a la inteligencia artificial y a sus consecuencias para la humanidad. El documento fue presentado públicamente el 25 de mayo, coincidiendo con el 135 aniversario de la Rerum Novarum de León XIII sobre el capital y el trabajo, y conviene decirlo desde el principio: me parece un texto serio, mucho más profundo que la inmensa mayoría de declaraciones corporativas sobre ética de la inteligencia artificial, y bastante más honesto que muchos libros blancos gubernamentales escritos con una mano en el teclado y con la otra pendiente de no molestar demasiado a las empresas que realmente mandan.

La encíclica acierta en lo esencial: la inteligencia artificial no es simplemente una tecnología más, ni una herramienta neutral que podamos evaluar únicamente por su eficiencia, su precisión o su capacidad para reducir costes. Es una infraestructura de poder. Decide qué vemos, qué leemos, qué trabajos desaparecen, qué decisiones se automatizan, qué formas de vigilancia se normalizan y qué partes de la realidad compartida terminan convertidas en ruido, polarización o espectáculo. Como resume Wired, el Papa entiende la inteligencia artificial como una capa invisible que ya atraviesa el trabajo, la información y las decisiones colectivas. Hasta aquí, muy bien.

El problema es que, en el momento en que el análisis debería convertirse en acusación, el texto se queda sin nombres propios. Habla de concentración de poder, pero no menciona a quienes lo concentran. Habla de plataformas, pero evita señalar a las plataformas. Habla de lógicas de mercado, pero no identifica a las compañías que han convertido esas lógicas en una forma de gobierno privado sobre nuestras vidas. Y eso no es un problema teológico, ni una limitación de estilo vaticano, ni una concesión diplomática inevitable: es una decisión política. Una encíclica que pretende hablar con todos termina, precisamente por eso, sin incomodar de verdad a casi nadie.

Porque la realidad no es abstracta. Mientras el Papa advierte contra la cultura de la potencia y pide incluso, en su discurso de presentación, «desarmar» la inteligencia artificial, el Departamento de Justicia de los Estados Unidos documenta cómo Google ha usado su posición dominante para congelar el mercado de la búsqueda durante más de una década, hasta el punto de que los remedios judiciales aprobados afectan no solo a Search, Chrome o Assistant, sino también a Gemini y a la próxima capa de intermediación algorítmica de la red. No estamos hablando de una «tendencia preocupante», sino de un monopolio declarado por los tribunales, de contratos de exclusividad, de datos, de distribución, de la arquitectura misma del acceso a la información. El documento pontificio ve el edificio. Simplemente evita leer el cartel de la puerta.

Lo mismo ocurre con Meta. Cuando Wired recoge la protesta de trabajadores subcontratados en Dublín que moderaban contenido y etiquetaban datos para entrenar productos de inteligencia artificial de Meta, y que ahora denuncian que se quedan con las migajas mientras la compañía captura el valor de ese trabajo, no estamos ante un ejemplo anecdótico de mala gestión laboral. Estamos ante la forma concreta que adopta la inteligencia artificial cuando se despliega dentro de las cadenas de valor reales: trabajo invisible, externalizado, psicológicamente costoso, presentado como si fuese magia tecnológica, y finalmente desechado cuando deja de ser conveniente. ¿Dónde está ahí la dignidad del trabajo? ¿En qué parte exacta de la cadena queda la «centralidad de la persona humana»?

La parte más interesante de la encíclica es, sin duda, la que dedica al ecosistema informativo. Ahí el Papa acierta de lleno: el problema no es únicamente la desinformación, ni los bulos, ni la posibilidad de que una imagen generada por inteligencia artificial engañe a unos cuantos incautos durante unas horas. El problema es mucho más profundo: es la reconstrucción algorítmica del imaginario colectivo. Un sistema que optimiza para engagement, indignación, permanencia y reacción emocional no solo distribuye contenidos: define lo que una sociedad considera visible, discutible o posible. Un estudio publicado en PNAS Nexus mostró que los algoritmos de ranking basados en engagement amplifican contenido emocionalmente cargado y hostil hacia el adversario político; otro trabajo recogido por El País señalaba que el orden en que se muestran los mensajes políticos afecta a la polarización afectiva. En la práctica, la arquitectura de la conversación pública ya no la diseñan parlamentos, editores o ciudadanos, sino modelos de optimización opacos que convierten nuestras pulsiones más primarias en inventario publicitario.

Y aquí la encíclica es valiosa porque entiende algo que muchos reguladores aún no han entendido: el fact-checking no arregla un sistema construido para premiar lo contrario de la deliberación. Comprobar datos puede ser necesario, pero es desesperadamente insuficiente cuando toda la infraestructura está diseñada para que lo emocional derrote a lo relevante, lo tribal derrote a lo complejo y lo viral derrote a lo verdadero. La democracia no se destruye únicamente cuando alguien publica una mentira, sino cuando el espacio común en el que deberíamos distinguir entre verdad, mentira, interés y manipulación ha sido rediseñado por empresas privadas que responden ante anunciantes, accionistas y métricas internas, no ante ciudadanos.

Donde el documento se queda más corto es en el trabajo. Defiende la dignidad laboral con convicción, pero desde una concepción del empleo que suena cada vez más histórica. La gran pregunta ya no es si la inteligencia artificial destruirá puestos de trabajo, sino quién captura el valor de esa destrucción, de esa sustitución o de esa reorganización. Cuando una empresa automatiza un proceso, reduce plantilla, aumenta productividad y mejora márgenes, ¿a dónde va ese valor? ¿A los trabajadores? ¿A sus comunidades? ¿A impuestos capaces de financiar transición, formación o renta? En absoluto: va, en la mayoría de los casos, a los accionistas y a quienes controlan el capital. McKinsey lo formula desde el lenguaje de la estrategia empresarial: la inteligencia artificial no es simplemente una revolución de productividad, sino un «competitive reset», una reconfiguración de modelos de negocio, estructuras de mercado y profit pools. Dicho de otra manera: no basta con preguntar cuánta riqueza crea la inteligencia artificial. Hay que preguntar quién se la queda.

Por eso resulta tan interesante la propuesta discutida en Corea del Sur de un dividendo ciudadano asociado a los beneficios extraordinarios de la inteligencia artificial. Podrá ser imperfecta, discutible o prematura, pero al menos coloca la pregunta en el lugar correcto: si los sistemas de inteligencia artificial se entrenan con datos, trabajo, infraestructuras, conocimiento colectivo y mercados construidos socialmente, ¿por qué el retorno debe concentrarse casi exclusivamente en unas pocas compañías y sus accionistas? ¿Por qué aceptamos sin pestañear que la automatización sea presentada como progreso cuando sus beneficios se privatizan y sus costes se socializan?

La Iglesia, paradójicamente, tiene tradición suficiente para ir mucho más lejos. La Rerum Novarum no se limitó a lamentar de manera genérica «los excesos de la industrialización». Señaló abusos, habló de salarios, propiedad, patronos, obreros, asociaciones y condiciones concretas. Fue incómoda porque entendió que la doctrina social no podía quedarse en una apelación piadosa al bien común mientras las fábricas, los terratenientes y el capitalismo industrial redefinían la vida de millones de personas. Magnifica Humanitas quiere ser la Rerum Novarum de la inteligencia artificial, y en muchos aspectos lo consigue: entiende el cambio de época, reconoce la magnitud del desafío y se niega a caer en la ingenuidad tecnófila. Pero justo cuando debería transformar el diagnóstico en una crítica institucional concreta, se refugia en la abstracción.

Obviamente, no se trata de pedir al Papa que escriba una lista negra de empresas tecnológicas, ni que convierta una encíclica en una demanda antimonopolio. Las encíclicas están pensadas para poderse leer durante décadas o siglos y que sigan teniendo sentido, por lo que mencionar concretamente a compañías no tendría sentido Pero sí hay que entender que en 2026 hablar de inteligencia artificial sin nombrar a Google, Microsoft, Meta, Amazon, OpenAI, Nvidia, Apple o Anthropic es como hablar de la Revolución Industrial sin mencionar fábricas, minas, ferrocarriles, patronos o sindicatos. La tecnología no cae del cielo. La tecnología tiene propietarios, incentivos, contratos, cadenas de suministro, modelos de negocio y estrategias de captura regulatoria, y se pueden señalar perfectamente quiénes son los buenos y quiénes son los malos sin necesidad de mencionarlos por el nombre. Cuando todo eso desaparece del lenguaje, también desaparece la posibilidad de actuar sobre ello.

Nada de esto disminuye la importancia del documento. En un mundo en el que la ética de la inteligencia artificial está siendo, en demasiadas ocasiones, producida por las mismas empresas que se benefician de su ausencia, que una institución con autoridad moral global diga que la tecnología debe servir a la persona humana y no al revés es relevante. Que insista en que la cuestión central no es la capacidad técnica, sino el poder, también lo es. Y que hable de comunicación, educación, trabajo, guerra, democracia y dignidad en un mismo marco resulta bastante más sofisticado que la habitual letanía de “principios éticos” diseñados para adornar presentaciones corporativas.

Pero no es suficiente. La próxima carta, la próxima encíclica o el próximo documento sinodal tendrá que hacer lo que este evita: señalar estructuras, identificar actores y proponer mecanismos concretos. No una apelación genérica al multilateralismo en un mundo en el que el multilateralismo llega tarde, mal y con demasiados lobbies sentados a la mesa. No otra invocación solemne a la responsabilidad compartida mientras la captura de valor sigue siendo brutalmente asimétrica. No otro texto impecable en el diagnóstico y tímido en la acusación.

El Papa ha entendido muy bien cuál es el problema. Ha comprendido que la inteligencia artificial no es una herramienta, sino una nueva arquitectura de poder. Ha visto que afecta a la verdad, al trabajo, a la democracia, a la guerra y a la libertad. Ha encontrado incluso una formulación poderosa: desarmar la inteligencia artificial. Pero desarmar algo exige saber quién tiene las armas, quién las fabrica, quién las vende, quién se beneficia de ellas y quién paga las consecuencias.

Y ahí, precisamente ahí, Magnifica Humanitas se detiene. Diagnostica con lucidez, habla con altura moral, recupera una tradición social valiosa y formula preguntas necesarias. Pero cuando llega el momento de señalar con el dedo, baja la mano.

El Papa diagnostica bien. Lo que le falta, todavía, es valor para nombrar.

Read this article in English on Medium with no paywall using this link, «Pope Leo XIV understands AI as power. He’s right. Now he must name the companies who wield it»