La pausa de la inteligencia artificial es una buena idea… que nunca va a ocurrir

Hace poco más de tres años, Geoffrey Hinton abandonó Google y lanzó una advertencia que ocupó titulares en todo el mundo: el desarrollo de la inteligencia artificial avanzaba demasiado deprisa y era necesario plantearse algún tipo de moratoria o pausa para comprender mejor sus riesgos. Escribí entonces sobre ello, porque procedía de una de las personas que más había contribuido a hacer posible esa misma tecnología.

¿Qué ocurrió después? Exactamente lo que cabía esperar: nada. No hubo moratoria. No hubo desaceleración. No hubo ni la más mínima aproximación o posibilidad de ningún consenso internacional al respecto. De hecho, ocurrió justamente lo contrario: la inversión se disparó, aparecieron nuevos modelos, aumentó la competencia entre empresas y países, y la velocidad de desarrollo se aceleró hasta niveles que en aquel momento parecían imposibles.

Ahora es Anthropic quien vuelve a plantear esencialmente la misma cuestión. Según un reciente documento del Anthropic Institute de la compañía, y según las declaraciones de algunos de sus responsables, la posibilidad de una desaceleración global coordinada del desarrollo de la inteligencia artificial sería deseable para ganar tiempo en investigación sobre seguridad, gobernanza y alineamiento. El detonante es la preocupación por la denominada recursive self-improvement, la posibilidad de que los sistemas lleguen a funcionar como máquinas de Gödel y comiencen a mejorar sus propias capacidades con una intervención humana cada vez menor.

La preocupación no es nueva. De hecho, forma parte del ADN intelectual de Anthropic desde su fundación. Dario Amodei lleva años advirtiendo de los riesgos potenciales de los sistemas avanzados de inteligencia artificial, al tiempo que defiende una visión extraordinariamente optimista de sus beneficios potenciales. En su ensayo «Machines of Loving Grace« sostiene que una inteligencia artificial suficientemente avanzada podría acelerar décadas de progreso científico en medicina, biología, desarrollo económico o sostenibilidad, hasta el punto de «comprimir» gran parte de los avances de este siglo en unos pocos años.

Pero precisamente ahí aparece la contradicción fundamental: si uno cree realmente que la inteligencia artificial puede curar enfermedades, acelerar el descubrimiento científico, mejorar la productividad global y generar ventajas económicas sin precedentes, ¿qué incentivos existen para detener su desarrollo?

La cuestión nunca ha sido tecnológica: es económica y geopolítica. Cuando Hinton habló de una pausa, el sector estaba compuesto por un número relativamente reducido de actores. Hoy hablamos de cientos de compañías, miles de investigadores, proyectos abiertos, laboratorios estatales, startups financiadas con miles de millones y gobiernos que consideran la inteligencia artificial un elemento central de su competitividad estratégica.

La historia de la tecnología está llena de llamamientos a la prudencia, pero también está llena de ejemplos en los que la prudencia perdió frente a los incentivos. La energía nuclear pudo ser regulada porque requiere instalaciones gigantescas, materiales escasos y una trazabilidad relativamente sencilla. Las armas biológicas son más difíciles. El software, muchísimo más. La inteligencia artificial se parece mucho más al software que a los reactores nucleares.

De hecho, la propia Anthropic reconoce el principal problema de cualquier hipotética moratoria: verificar su cumplimiento. ¿Cómo comprobar que una empresa, un laboratorio militar o un gobierno no siguen entrenando modelos mientras el resto se detiene? ¿Cómo detectar una carrera clandestina cuando los recursos necesarios para participar en ella son cada vez más accesibles?

La propia compañía utiliza una comparación reveladora: mientras que los silos de misiles pueden localizarse, los entrenamientos de modelos son mucho más fáciles de ocultar. Y, además, quien continúe desarrollando mientras los demás se detienen heredará automáticamente una ventaja competitiva gigantesca.

Ese es precisamente el núcleo del problema. Una pausa sólo funciona si todos paran. Pero para cualquier actor individual, no parar siempre resulta más atractivo que parar. Es el dilema del prisionero aplicado a la inteligencia artificial.

Y cuanto mayor es la recompensa potencial, más difícil resulta alcanzar acuerdos colectivos. Si Amodei tiene razón cuando habla de una futura «nación de genios en un centro de datos», capaz de generar descubrimientos científicos, ventajas militares o crecimiento económico extraordinario, entonces la tentación de seguir adelante será prácticamente irresistible.

Por eso estas llamadas a la pausa generan una sensación extraña. Son intelectualmente interesantes, incluso necesarias. Nos obligan a discutir riesgos que muchos prefieren ignorar. Introducen cuestiones de gobernanza que claramente no estamos abordando con suficiente profundidad. Y contribuyen a que la conversación pública no se limite a la próxima funcionalidad espectacular o al próximo récord en un benchmark. Pero como propuesta práctica tienen muy pocas posibilidades de prosperar.

La razón es sencilla: los actores que construyen inteligencia artificial compiten entre sí, pero también compiten países enteros. Estados Unidos compite con China. China compite con Estados Unidos. Europa intenta no quedarse completamente fuera de juego. India, Emiratos Árabes, Arabia Saudí y muchos otros países están invirtiendo cantidades enormes para desarrollar capacidades propias. En ese contexto, pedir una pausa global equivale a pedir un nivel de confianza internacional que ni siquiera existe en ámbitos mucho más maduros y regulados.

Lo que sí puede tener sentido no es detener el desarrollo, sino aumentar radicalmente la transparencia sobre él. Exigir auditorías independientes. Desarrollar estándares de seguridad verificables. Crear mecanismos de supervisión internacional. Obligar a divulgar capacidades y riesgos de los modelos más avanzados. Financiar investigación en alineamiento y seguridad a una escala comparable a la inversión destinada a mejorar prestaciones. Eso es difícil, pero resulta infinitamente más realista que imaginar una parada coordinada del progreso tecnológico.

Quizá la verdadera utilidad de estos llamamientos no sea conseguir la moratoria que proponen, sino recordarnos una realidad incómoda: que estamos en plena adolescencia de la tecnología, construyendo algo cuyo impacto potencial podría ser enorme mientras nuestras instituciones siguen funcionando a velocidad burocrática. Y además, compitiendo en lugar de colaborar.

Hinton intentó provocar esa conversación. Nadie le hizo demasiado caso. Ahora Anthropic vuelve a intentarlo. Probablemente tampoco consiga detener nada. Pero eso no significa necesariamente que esté equivocada.

This article is also available in English on my Medium page, «Anthropic says it wants to slow down AI. Here’s why it won’t happen.«