{"id":5209,"date":"2026-09-16T01:57:15","date_gmt":"2026-09-16T04:57:15","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/16\/la-unica-jugada-ganadora\/"},"modified":"2026-09-16T01:57:15","modified_gmt":"2026-09-16T04:57:15","slug":"la-unica-jugada-ganadora","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/16\/la-unica-jugada-ganadora\/","title":{"rendered":"La \u00fanica jugada ganadora"},"content":{"rendered":"
\n
\n

La parafernalia que se ha organizado en torno a las declaraciones de los l\u00edderes de las compa\u00f1\u00edas de inteligencia artificial norteamericanas diciendo que ven hasta recomendable una pausa<\/a> pero no plante\u00e1ndose hacerla porque no se puede controlar que la hagan todos<\/a>, con China diciendo que se ven amenazados<\/a> y Donald Trump por el medio desestimando el tema y diciendo que ya lo controla \u00e9l<\/a>, como si hubiese sabido alguna vez de algo en su vida, me han evocado muy claramente una pel\u00edcula, \u00abJuegos de Guerra<\/a>\u00bb (1983), y su conclusi\u00f3n evidente: la \u00fanica jugada ganadora es no jugar. De hecho, incluso he visto una referencia por ese camino en The Guardian utilizando la misma pel\u00edcula<\/a>.<\/p>\n

Los principales l\u00edderes de la industria dicen que quieren frenar, pero nadie quiere hacerlo. Aqu\u00ed vemos desde teor\u00edas de la conspiraci\u00f3n sobre una hipot\u00e9tica captura regulatoria que dicen que lo que quieren es quedarse como las \u00fanicas \u00abautorizadas\u00bb a seguir desarrollando<\/a>, hasta los que afirman que no es exactamente frenar, sino acompasar capacidades y seguridad<\/a>, mientras todos condicionan su propuesta a que los dem\u00e1s hagan lo mismo.<\/p>\n

De los protagonistas de esta obra, Anthropic y OpenAI son los que est\u00e1n forzando m\u00e1s el gui\u00f3n. Google, con capacidades de sobra que justificar\u00edan llamar la atenci\u00f3n sobre el tema, permanece fundamentalmente callada (actualizo, ya no<\/a>), y Microsoft, b\u00e1sicamente, reclama sentido com\u00fan<\/a>. \u00bfEstamos, como algunos pretenden, al borde de un desastre existencial? \u00bfQu\u00e9 hay de realista en todo esto? \u00bfPuede realmente la inteligencia artificial acabar con la humanidad? Sabemos que es capaz de hacer cosas malas<\/a> cuando se la instruye para ello o cuando se descuidan las precauciones, y sabemos que esas capacidades escalan a medida que los modelos se convierten en m\u00e1s potentes. Sabemos tambi\u00e9n de su capacidad de desarrollar bucles de retroalimentaci\u00f3n que se mejoran de forma auto-recursiva, y todos vemos la evidente posibilidad de que capacidades as\u00ed puedan caer en malas manos y ser convertidas en amenazas. \u00bfSuficiente como para justificar la paranoia<\/a> que estamos viviendo? Al menos, suficiente como para exigir un control, una regulaci\u00f3n y responsabilidades adecuadas sobre lo que algunos irresponsables est\u00e1n haciendo. Eso, sin duda.<\/p>\n

Mi reflexi\u00f3n sobre esto tiene que ver con lo absurdo que resulta convertir la prudencia en una desventaja. Ninguna de las compa\u00f1\u00edas implicadas est\u00e1 actuando de manera irracional: quien ralentiza unilateralmente pierde talento, mercado, clientes, contratos, capital y posicionamiento estrat\u00e9gico. La reacci\u00f3n inmediata de los mercados<\/a> refuerza esta idea: todos est\u00e1n dispuestos a sacrificar la seguridad a cambio de m\u00e1s crecimiento y dinero, como si lo segundo importase lo m\u00e1s m\u00ednimo sin lo primero. Claramente, la estupidez no est\u00e1 en cada participante, sino en el resultado colectivo producido por incentivos individualmente racionales.<\/p>\n

Adem\u00e1s, la carrera entre compa\u00f1\u00edas se convierte en carrera geopol\u00edtica: los Estados Unidos y China temen cosas distintas, pero ninguno puede protegerse unilateralmente de una hipot\u00e9tica cat\u00e1strofe tecnol\u00f3gica capaz de cruzar cualquier frontera. \u00bfHay alternativas?<\/p>\n

Mi impresi\u00f3n es que un desaf\u00edo as\u00ed s\u00f3lo puede asumirse mediante la colaboraci\u00f3n. Pero antes de que empecemos con t\u00f3picos al estilo Lennon, con llamamientos a la fraternidad universal mientras entonamos el \u00abImagine\u00bb, nos damos todos las manos e imaginamos que no hay pa\u00edses (es f\u00e1cil si lo intentas), pensemos que la humanidad ya ha cooperado anteriormente frente a tecnolog\u00edas costosas o peligrosas: el CERN<\/a>, por ejemplo, naci\u00f3 como un proyecto de ciencia para la paz<\/a>, el Organismo Internacional de Energ\u00eda At\u00f3mica<\/a> (IAEA) usa declaraciones, inspecciones, vigilancia y mecanismos de alerta<\/a> precisamente porque los pa\u00edses no se f\u00edan los unos de los otros. Para cooperar no es necesario que \u00abseamos todos amiguitos\u00bb, sino convertir la desconfianza en procedimientos accionables.<\/p>\n

\u00bfSer\u00eda viable un CERN para la inteligencia artificial? \u00bfUna instituci\u00f3n internacional capaz de reunir talento, capacidad de computaci\u00f3n e investigaci\u00f3n sobre seguridad, capaz de someter los modelos de frontera a evaluaciones independientes, y de desarrollar aplicaciones de inter\u00e9s p\u00fablico en cuestiones como medicina, educaci\u00f3n, ciencia o clima? No soy el primero que lo plantea: RAND ha analizado cinco posibles escenarios y funciones para una organizaci\u00f3n de ese tipo<\/a>, empezando por la creaci\u00f3n de un entorno seguro, la resoluci\u00f3n de problemas de coordinaci\u00f3n, o el desarrollo de usos que el mercado seguramente no querr\u00eda financiar voluntariamente.<\/p>\n

Una organizaci\u00f3n as\u00ed podr\u00eda ser abierta en el sentido de distribuir sus beneficios, pero no irresponsablemente abierta para que cualquiera pudiese hacer lo que quisiera con los resultados, manteniendo las capacidades de frontera bajo custodia y los accesos controlados. Los modelos abiertos, como bien afirma Stanford, son buenos para reducir la concentraci\u00f3n, favorecer la innovaci\u00f3n y facilitar el escrutinio independiente<\/a>, aunque como tambi\u00e9n afirma Nature, tambi\u00e9n pueden propiciar abusos si la apertura se lleva a cabo sin auditor\u00edas ni gobernanza adecuadas<\/a>. El objetivo de algo as\u00ed deber\u00eda ser universalizar los beneficios, sin regalar a nadie capacidades catastr\u00f3ficas para obtener posiciones de fuerza, amenazar o hacer el mal.<\/p>\n

Poner en marcha algo as\u00ed no es idealismo: de hecho, hay embriones posibles que pueden utilizarse: Estados Unidos, China, la Uni\u00f3n Europea y otros pa\u00edses ya firmaron en su momento la Declaraci\u00f3n de Bletchley<\/a>, y compa\u00f1\u00edas estadounidenses, europeas y chinas aceptaron en Se\u00fal evaluaciones, umbrales de riesgo y la posibilidad de no desarrollar modelos que no puedan gestionarse de forma segura<\/a>. El Carnegie Endowment for International Peace<\/a> propone empezar con una pragm\u00e1tica \u00abseguridad en paralelo\u201d entre Estados Unidos y China<\/a>: prohibiciones sobre usos concretos, intercambio de incidentes y pruebas comunes.<\/p>\n

Volviendo a \u00abJuegos de Guerra\u00bb: todav\u00eda podemos desarrollar la tecnolog\u00eda y, de hecho, es seguro que lo haremos. Lo que debemos abandonar es una carrera en la que incluso el supuesto vencedor puede terminar desapareciendo junto con todos los dem\u00e1s. La \u00fanica jugada ganadora no es dejar de desarrollar inteligencia artificial: es dejar de competir por ella como si fuese un arma con la que alguien pudiera conquistar el mundo sin destruirlo.<\/p>\n

\n

In English on Medium, \u00abIn the AI war game, this is the winning move<\/a>\u00bb <\/em><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

La parafernalia que se ha organizado en torno a las declaraciones de los l\u00edderes de las compa\u00f1\u00edas de inteligencia artificial norteamericanas diciendo que ven hasta recomendable una pausa pero no plante\u00e1ndose hacerla porque no se puede controlar que la hagan todos, con China diciendo que se ven amenazados y Donald Trump por el medio desestimando […]<\/p>\n","protected":false},"author":1,"featured_media":5208,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[33],"tags":[],"class_list":["post-5209","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5209","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=5209"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5209\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/5208"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=5209"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=5209"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=5209"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}