{"id":5167,"date":"2026-09-14T00:17:14","date_gmt":"2026-09-14T03:17:14","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/14\/el-dilema-del-prisionero-que-puede-acabar-con-la-humanidad\/"},"modified":"2026-09-14T00:17:14","modified_gmt":"2026-09-14T03:17:14","slug":"el-dilema-del-prisionero-que-puede-acabar-con-la-humanidad","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/14\/el-dilema-del-prisionero-que-puede-acabar-con-la-humanidad\/","title":{"rendered":"El dilema del prisionero que puede acabar con la humanidad"},"content":{"rendered":"
\n
\n

Una noticia de Bloomberg<\/a> afirma que Sam Altman est\u00e1 considerando la posibilidad de pausar el desarrollo de la inteligencia artificial de forma conjunta con otros laboratorios<\/a>, pero realmente, las cosas est\u00e1n muy lejos de estar ah\u00ed. La realidad no es que Altman quiera parar, sino que \u00fanicamente considera viable hacerlo si el resto de las compa\u00f1\u00edas de inteligencia artificial frenan tambi\u00e9n<\/a>, un acuerdo pr\u00e1cticamente imposible de lograr, de concretar y de controlar. El propio Altman afirma, de hecho, que algunos laboratorios no lo aceptar\u00edan, y reclama est\u00e1ndares comunes para todos<\/a>. Esta circunstancia convierte esta aparente decisi\u00f3n \u00e9tica en un problema de coordinaci\u00f3n: nadie quiere seguir acelerando hacia algo potencialmente incontrolable, pero nadie puede permitirse una pausa mientras otros contin\u00faan.<\/p>\n

La situaci\u00f3n encaja casi literalmente en el conocido dilema del prisionero<\/a> de la teor\u00eda de juegos. Para cada compa\u00f1\u00eda, continuar el desarrollo a la mayor velocidad posible es la estrategia aparentemente racional. Pero si los dem\u00e1s paran, quien contin\u00faa obtiene mejores modelos, atrae m\u00e1s talento, m\u00e1s clientes, contratos p\u00fablicos y posiblemente un efecto pionero<\/a> capaz de dar lugar a una ventaja competitiva sostenible. Si las dem\u00e1s contin\u00faan, parar significa quedar fuera de la carrera, pero si todas apuestan por esa decisi\u00f3n racional, producen el peor resultado posible: una carrera en la que los controles y la seguridad llegan siempre tarde. RAND lo ha modelizado expl\u00edcitamente<\/a>: mientras el beneficio percibido de ser el primero supere al riesgo percibido, acelerar seguir\u00e1 siendo el equilibrio, incluso aunque todos, individualmente, prefiriesen la opci\u00f3n de una carrera intr\u00ednsecamente m\u00e1s segura.<\/p>\n

Anthropic es la demostraci\u00f3n emp\u00edrica perfecta: en febrero elimin\u00f3 de sus pol\u00edticas de seguridad la cl\u00e1usula de no entrenar modelos sin suficientes mitigaciones<\/a>, y su responsable lo explic\u00f3 fr\u00edamente afirmando que una promesa unilateral no ten\u00eda sentido si los competidores segu\u00edan acelerando. En junio, la compa\u00f1\u00eda afirm\u00f3 que la pausa ser\u00eda deseable, pero s\u00f3lo si inclu\u00eda a los dem\u00e1s laboratorios y si se pod\u00eda verificar que nadie la aprovechaba para adelantarse<\/a>. Est\u00e1n describiendo exactamente el incentivo para abandonar un posible acuerdo.<\/p>\n

La carrera, adem\u00e1s, funciona exactamente igual para compa\u00f1\u00edas y para pa\u00edses en su conjunto<\/a>: retrasar un lanzamiento para hacer m\u00e1s pruebas puede hacer que pierdas mercado frente a competidores menos prudentes que t\u00fa, y los gobiernos tienen esa misma presi\u00f3n si creen que otros pa\u00edses no adoptar\u00e1n protecciones similares. Una carrera hacia abajo, pero en dos pisos: en uno, OpenAI contra Anthropic, Google, xAI o los laboratorios chinos. En el otro, los Estados Unidos, China, Reino Unido y Europa compitiendo por no depender tecnol\u00f3gicamente del vencedor. Simplemente demencial.<\/p>\n

El caso del Reino Unido es especialmente ilustrativo: su gobierno acaba de rechazar imponer un kill switch<\/em> obligatorio para modelos de inteligencia artificial potencialmente peligrosos<\/a>, porque impedir el acceso dentro del pa\u00eds no evitar\u00eda que esos modelos fuesen desarrollados o utilizados en otros pa\u00edses. Conviene que distingamos una pausa en el desarrollo de un kill switch<\/em>, pero en la pr\u00e1ctica, estamos ante las mismas razones, las mismas premisas, y el mismo peligro. Al final, que el propio gobierno rechace forzar a las compa\u00f1\u00edas a otorgar al mismo gobierno facultades de emergencia para ordenar la desconexi\u00f3n de sistemas o centros de datos bajo jurisdicci\u00f3n brit\u00e1nica no deja de ser algo un poco contraintuitivo.<\/p>\n

Los informes actuales afirman que los modelos actuales a\u00fan no tienen las capacidades necesarias para provocar una p\u00e9rdida de control irreversible, y muchos expertos discrepan con la distribuci\u00f3n de probabilidad de un evento as\u00ed. Pero por otro lado, identifican progresos en autonom\u00eda, en capacidad de enga\u00f1o, en consciencia situacional, en evasi\u00f3n de la supervisi\u00f3n y en la posibilidad de que obtengan autorreplicaci\u00f3n, y admiten posibles escenarios que podr\u00edan llevar a un escenario de extinci\u00f3n<\/a>. B\u00e1sicamente, un riesgo incierto, y unas consecuencias potencialmente absolutas.<\/p>\n

\u00bfC\u00f3mo se sale de esto? La salida no est\u00e1 en pedir a los directivos y a las empresas que tengan mejores sentimientos, sino en cambiar los incentivos. Necesitamos urgentemente umbrales obligatorios basados en capacidades, organismos y sistemas de evaluaci\u00f3n independientes, acceso de las autoridades a los modelos, est\u00e1ndares de notificaci\u00f3n de incidentes, controles sobre los grandes entrenamientos y mecanismos internacionales de verificaci\u00f3n, en la l\u00ednea del Seoul Summit de 2024<\/a>, pero no voluntarios, sino sujetos a reglas claras y a compromisos exigibles. Adem\u00e1s, en muchos casos, una simple declaraci\u00f3n o un reconocimiento posterior de un incidente de seguridad puede simplemente no servir para nada<\/a>: necesitamos salvaguardas, supervisi\u00f3n en tiempo real y planes de respuesta. La verificaci\u00f3n es susceptible de cambiar el juego al reducir la posibilidad de que cooperar con las restricciones o las pausas signifique convertirse en el m\u00e1s tonto de la carrera.<\/p>\n

Sinceramente, esto parece el argumento de una pel\u00edcula, pero con un toque muy inquietante: el malo no es una m\u00e1quina superinteligente que decide eliminar a la raza humana, sino un sistema de incentivos perfectamente humano que literalmente obliga a personas, compa\u00f1\u00edas y hasta gobiernos a seguir con una carrera que ellos mismos describen como potencialmente terminal. Todos quieren frenar, todos ven el precipicio, pero todos mantienen el pie en el acelerador porque temen que el de al lado no haga lo mismo. Y as\u00ed, por una l\u00f3gica individualmente racional y colectivamente demencial, seguimos acerc\u00e1ndonos a un final que nadie desea, pero que nadie parece dispuesto a impedir por s\u00ed solo.<\/p>\n

\n

In English on Medium, \u00abIn the AI race, everyone knows the danger, but nobody is prepared to slow down<\/a>\u00bb <\/em><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Una noticia de Bloomberg afirma que Sam Altman est\u00e1 considerando la posibilidad de pausar el desarrollo de la inteligencia artificial de forma conjunta con otros laboratorios, pero realmente, las cosas est\u00e1n muy lejos de estar ah\u00ed. La realidad no es que Altman quiera parar, sino que \u00fanicamente considera viable hacerlo si el resto de las […]<\/p>\n","protected":false},"author":1,"featured_media":5166,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[33],"tags":[],"class_list":["post-5167","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5167","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=5167"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5167\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/5166"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=5167"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=5167"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=5167"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}