{"id":2758,"date":"2026-06-08T03:21:49","date_gmt":"2026-06-08T03:21:49","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/06\/08\/la-pausa-de-la-inteligencia-artificial-es-una-buena-idea-que-nunca-va-a-ocurrir\/"},"modified":"2026-06-08T03:21:49","modified_gmt":"2026-06-08T03:21:49","slug":"la-pausa-de-la-inteligencia-artificial-es-una-buena-idea-que-nunca-va-a-ocurrir","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/06\/08\/la-pausa-de-la-inteligencia-artificial-es-una-buena-idea-que-nunca-va-a-ocurrir\/","title":{"rendered":"La pausa de la inteligencia artificial es una buena idea\u2026 que nunca va a ocurrir"},"content":{"rendered":"
\n
\n

Hace poco m\u00e1s de tres a\u00f1os, Geoffrey Hinton<\/a> abandon\u00f3 Google y lanz\u00f3 una advertencia que ocup\u00f3 titulares en todo el mundo<\/a>: el desarrollo de la inteligencia artificial avanzaba demasiado deprisa y era necesario plantearse alg\u00fan tipo de moratoria<\/a> o pausa para comprender mejor sus riesgos. Escrib\u00ed entonces sobre ello, porque proced\u00eda de una de las personas que m\u00e1s hab\u00eda contribuido a hacer posible esa misma tecnolog\u00eda<\/a>.<\/p>\n

\u00bfQu\u00e9 ocurri\u00f3 despu\u00e9s? Exactamente lo que cab\u00eda esperar: nada. No hubo moratoria. No hubo desaceleraci\u00f3n. No hubo ni la m\u00e1s m\u00ednima aproximaci\u00f3n o posibilidad de ning\u00fan consenso internacional al respecto. De hecho, ocurri\u00f3 justamente lo contrario: la inversi\u00f3n se dispar\u00f3, aparecieron nuevos modelos, aument\u00f3 la competencia entre empresas y pa\u00edses, y la velocidad de desarrollo se aceler\u00f3 hasta niveles que en aquel momento parec\u00edan imposibles.<\/p>\n

Ahora es Anthropic quien vuelve a plantear esencialmente la misma cuesti\u00f3n<\/a>. Seg\u00fan un reciente documento del Anthropic Institute<\/a> de la compa\u00f1\u00eda, y seg\u00fan las declaraciones de algunos de sus responsables, la posibilidad de una desaceleraci\u00f3n global coordinada del desarrollo de la inteligencia artificial ser\u00eda deseable para ganar tiempo en investigaci\u00f3n sobre seguridad, gobernanza y alineamiento. El detonante es la preocupaci\u00f3n por la denominada recursive self-improvement<\/a><\/em>, la posibilidad de que los sistemas lleguen a funcionar como m\u00e1quinas de G\u00f6del<\/a> y comiencen a mejorar sus propias capacidades con una intervenci\u00f3n humana cada vez menor.<\/p>\n

La preocupaci\u00f3n no es nueva. De hecho, forma parte del ADN intelectual de Anthropic desde su fundaci\u00f3n. Dario Amodei lleva a\u00f1os advirtiendo de los riesgos potenciales de los sistemas avanzados de inteligencia artificial, al tiempo que defiende una visi\u00f3n extraordinariamente optimista de sus beneficios potenciales. En su ensayo \u00abMachines of Loving Grace<\/a>\u00ab<\/em> sostiene que una inteligencia artificial suficientemente avanzada podr\u00eda acelerar d\u00e9cadas de progreso cient\u00edfico en medicina, biolog\u00eda, desarrollo econ\u00f3mico o sostenibilidad, hasta el punto de \u00abcomprimir\u00bb gran parte de los avances de este siglo en unos pocos a\u00f1os<\/a>.<\/p>\n

Pero precisamente ah\u00ed aparece la contradicci\u00f3n fundamental: si uno cree realmente que la inteligencia artificial puede curar enfermedades, acelerar el descubrimiento cient\u00edfico, mejorar la productividad global y generar ventajas econ\u00f3micas sin precedentes, \u00bfqu\u00e9 incentivos existen para detener su desarrollo?<\/p>\n

La cuesti\u00f3n nunca ha sido tecnol\u00f3gica: es econ\u00f3mica y geopol\u00edtica. Cuando Hinton habl\u00f3 de una pausa, el sector estaba compuesto por un n\u00famero relativamente reducido de actores. Hoy hablamos de cientos de compa\u00f1\u00edas, miles de investigadores, proyectos abiertos, laboratorios estatales, startups<\/em> financiadas con miles de millones y gobiernos que consideran la inteligencia artificial un elemento central de su competitividad estrat\u00e9gica.<\/p>\n

La historia de la tecnolog\u00eda est\u00e1 llena de llamamientos a la prudencia, pero tambi\u00e9n est\u00e1 llena de ejemplos en los que la prudencia perdi\u00f3 frente a los incentivos. La energ\u00eda nuclear pudo ser regulada porque requiere instalaciones gigantescas, materiales escasos y una trazabilidad relativamente sencilla. Las armas biol\u00f3gicas son m\u00e1s dif\u00edciles. El software<\/em>, much\u00edsimo m\u00e1s. La inteligencia artificial se parece mucho m\u00e1s al software<\/em> que a los reactores nucleares.<\/p>\n

De hecho, la propia Anthropic reconoce el principal problema de cualquier hipot\u00e9tica moratoria: verificar su cumplimiento<\/a>. \u00bfC\u00f3mo comprobar que una empresa, un laboratorio militar o un gobierno no siguen entrenando modelos mientras el resto se detiene? \u00bfC\u00f3mo detectar una carrera clandestina cuando los recursos necesarios para participar en ella son cada vez m\u00e1s accesibles?<\/p>\n

La propia compa\u00f1\u00eda utiliza una comparaci\u00f3n reveladora: mientras que los silos de misiles pueden localizarse, los entrenamientos de modelos son mucho m\u00e1s f\u00e1ciles de ocultar. Y, adem\u00e1s, quien contin\u00fae desarrollando mientras los dem\u00e1s se detienen heredar\u00e1 autom\u00e1ticamente una ventaja competitiva gigantesca.<\/p>\n

Ese es precisamente el n\u00facleo del problema. Una pausa s\u00f3lo funciona si todos paran. Pero para cualquier actor individual, no parar siempre resulta m\u00e1s atractivo que parar. Es el dilema del prisionero<\/a> aplicado a la inteligencia artificial.<\/p>\n

Y cuanto mayor es la recompensa potencial, m\u00e1s dif\u00edcil resulta alcanzar acuerdos colectivos. Si Amodei tiene raz\u00f3n cuando habla de una futura \u00abnaci\u00f3n de genios en un centro de datos\u00bb, capaz de generar descubrimientos cient\u00edficos, ventajas militares o crecimiento econ\u00f3mico extraordinario, entonces la tentaci\u00f3n de seguir adelante ser\u00e1 pr\u00e1cticamente irresistible.<\/p>\n

Por eso estas llamadas a la pausa generan una sensaci\u00f3n extra\u00f1a. Son intelectualmente interesantes, incluso necesarias. Nos obligan a discutir riesgos que muchos prefieren ignorar. Introducen cuestiones de gobernanza que claramente no estamos abordando con suficiente profundidad. Y contribuyen a que la conversaci\u00f3n p\u00fablica no se limite a la pr\u00f3xima funcionalidad espectacular o al pr\u00f3ximo r\u00e9cord en un benchmark<\/em>. Pero como propuesta pr\u00e1ctica tienen muy pocas posibilidades de prosperar.<\/p>\n

La raz\u00f3n es sencilla: los actores que construyen inteligencia artificial compiten entre s\u00ed, pero tambi\u00e9n compiten pa\u00edses enteros. Estados Unidos compite con China. China compite con Estados Unidos. Europa intenta no quedarse completamente fuera de juego. India, Emiratos \u00c1rabes, Arabia Saud\u00ed y muchos otros pa\u00edses est\u00e1n invirtiendo cantidades enormes para desarrollar capacidades propias. En ese contexto, pedir una pausa global equivale a pedir un nivel de confianza internacional que ni siquiera existe en \u00e1mbitos mucho m\u00e1s maduros y regulados.<\/p>\n

Lo que s\u00ed puede tener sentido no es detener el desarrollo, sino aumentar radicalmente la transparencia sobre \u00e9l. Exigir auditor\u00edas independientes. Desarrollar est\u00e1ndares de seguridad verificables. Crear mecanismos de supervisi\u00f3n internacional. Obligar a divulgar capacidades y riesgos de los modelos m\u00e1s avanzados. Financiar investigaci\u00f3n en alineamiento y seguridad a una escala comparable a la inversi\u00f3n destinada a mejorar prestaciones. Eso es dif\u00edcil, pero resulta infinitamente m\u00e1s realista que imaginar una parada coordinada del progreso tecnol\u00f3gico.<\/p>\n

Quiz\u00e1 la verdadera utilidad de estos llamamientos no sea conseguir la moratoria que proponen, sino recordarnos una realidad inc\u00f3moda: que estamos en plena adolescencia de la tecnolog\u00eda, construyendo algo cuyo impacto potencial podr\u00eda ser enorme mientras nuestras instituciones siguen funcionando a velocidad burocr\u00e1tica<\/a>. Y adem\u00e1s, compitiendo en lugar de colaborar.<\/p>\n

Hinton intent\u00f3 provocar esa conversaci\u00f3n. Nadie le hizo demasiado caso. Ahora Anthropic vuelve a intentarlo. Probablemente tampoco consiga detener nada. Pero eso no significa necesariamente que est\u00e9 equivocada.<\/p>\n

\n

This article is also available in English on my Medium page, \u00abAnthropic says it wants to slow down AI. Here\u2019s why it won\u2019t happen.<\/a>\u00ab<\/em><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Hace poco m\u00e1s de tres a\u00f1os, Geoffrey Hinton abandon\u00f3 Google y lanz\u00f3 una advertencia que ocup\u00f3 titulares en todo el mundo: el desarrollo de la inteligencia artificial avanzaba demasiado deprisa y era necesario plantearse alg\u00fan tipo de moratoria o pausa para comprender mejor sus riesgos. Escrib\u00ed entonces sobre ello, porque proced\u00eda de una de las […]<\/p>\n","protected":false},"author":1,"featured_media":2648,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[33],"tags":[],"class_list":["post-2758","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/2758","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=2758"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/2758\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/2648"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=2758"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=2758"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=2758"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}