{"id":5387,"date":"2026-09-22T00:06:23","date_gmt":"2026-09-22T03:06:23","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/22\/la-guerra-que-pudo-empezar-con-un-chatbot\/"},"modified":"2026-09-22T00:06:23","modified_gmt":"2026-09-22T03:06:23","slug":"la-guerra-que-pudo-empezar-con-un-chatbot","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/22\/la-guerra-que-pudo-empezar-con-un-chatbot\/","title":{"rendered":"La guerra que pudo empezar con un chatbot"},"content":{"rendered":"
\n
\n

Seg\u00fan una exclusiva de CNN que m\u00e1s bien parece una pel\u00edcula<\/a>, un analista de operaciones especiales pidi\u00f3 a un chatbot<\/em> que combinase informaci\u00f3n abierta con inteligencia de se\u00f1ales clasificada sobre el manifiesto de carga de un barco chino en Oriente Medio, y lleg\u00f3 a la conclusi\u00f3n de que tal barco transportaba componentes de un programa nuclear.<\/p>\n

El analista, adem\u00e1s, volvi\u00f3 a utilizar el chatbot<\/em> para convertir sus conclusiones en un informe de inteligencia con el formato usado habitualmente, que circul\u00f3, fue utilizado para preparar un abordaje a ese barco, ordenar el vuelo de aviones militares<\/a>, y puso en marcha los preparativos de una operaci\u00f3n especial que s\u00f3lo se detuvo cuando una afortunada revisi\u00f3n descubri\u00f3 el error, originado por una simple alucinaci\u00f3n del chatbot<\/em><\/a>.<\/p>\n

La historia de CNN hay que tomarla todav\u00eda con pinzas: se basa en cuatro fuentes an\u00f3nimas, no identifica al chatbot<\/em>, no dice cu\u00e1l era realmente la carga del barco, y las fuentes militares consultadas no han respondido sobre el tema. No sabemos si China lleg\u00f3 a detectar la operaci\u00f3n especial norteamericana o a preparar alg\u00fan tipo de respuesta, con lo que no puede decirse m\u00e1s que hipot\u00e9ticamente que estuviese a punto de provocar una guerra, pero no parece un incidente inofensivo: el primer uso del chatbot<\/em> gener\u00f3 una falsedad, el segundo elimin\u00f3 las se\u00f1ales que podr\u00edan haberlo delatado y lo disfraz\u00f3 como informe oficial, y a partir de ah\u00ed, una cadena humana actu\u00f3. El analista, en lugar de corregir al chatbot<\/em>, legitim\u00f3 y amplific\u00f3 su contenido. Es lo que el marco de riesgos del NIST<\/a> denomina una confabulation<\/em>: la generaci\u00f3n de contenido expuesto con seguridad pero err\u00f3neo o falso (conocido coloquialmente como \u00abalucinaciones\u00bb o \u00abfabricaciones\u00bb) que puede inducir a error o enga\u00f1ar a los usuarios.<\/p>\n

En el contexto pol\u00edtico actual, un incidente as\u00ed podr\u00eda haber resultado grav\u00edsimo, y el riesgo no es peque\u00f1o, dado que desde el pasado enero el Pent\u00e1gono desarrolla una estrategia de aceleraci\u00f3n destinada a extender el uso de modelos comerciales de inteligencia artificial y a reducir las barreras a su utilizaci\u00f3n: ahora, la inteligencia artificial permite llegar mucho m\u00e1s deprisa a una mala idea.<\/p>\n

Hay precedentes<\/a>: en noviembre de 1979, una cinta de entrenamiento con una simulaci\u00f3n de un ataque sovi\u00e9tico se introdujo por error en el sistema de NORAD, y en junio de 1980, el fallo de un chip hizo aparecer miles de misiles sovi\u00e9ticos en las pantallas<\/a>, lo que provoc\u00f3 que se arrancasen bombarderos, que se desplegase un puesto de mando a\u00e9reo y que casi se alertase al presidente Carter. En un momento en el que abundan las hip\u00f3tesis sobre la posibilidad de que la inteligencia artificial acabe con la especie humana, y muchos se preguntan c\u00f3mo podr\u00eda llegar a hacerlo, un incidente as\u00ed ofrece una pista bastante inquietante. Entonces, la situaci\u00f3n se salv\u00f3 gracias a la redundancia entre sistemas. En esta ocasi\u00f3n, por una bendita revisi\u00f3n humana adicional.<\/p>\n

El paralelismo con la pel\u00edcula \u00abFail Safe<\/a>\u00ab<\/em> (1964), de Sidney Lumet, es total: un fallo inform\u00e1tico env\u00eda una orden aparentemente v\u00e1lida a bombarderos estadounidenses para atacar Mosc\u00fa y, a partir de ah\u00ed, el sistema funciona impecablemente seg\u00fan unas reglas que impiden detenerlos. Wired ya recuper\u00f3 y recomend\u00f3 esta misma pel\u00edcula ya hace alg\u00fan tiempo<\/a>, tambi\u00e9n al hilo de la inteligencia artificial.<\/p>\n

La conclusi\u00f3n parece clara: no basta con invocar la supervisi\u00f3n humana. Necesitamos preservar la procedencia de cada afirmaci\u00f3n, impedir que una misma inteligencia artificial genere una conclusi\u00f3n y despu\u00e9s la revista con apariencia de informe oficial, exigir una segunda verificaci\u00f3n verdaderamente independiente y prohibir que una acci\u00f3n armada dependa de una inferencia generativa no corroborada. M\u00e1s all\u00e1 de las referencias cinematogr\u00e1ficas, la advertencia es evidente: estamos jugando con fuego, y mucho m\u00e1s cerca de una posible cat\u00e1strofe de lo que muchos podr\u00edan pensar.<\/p>\n

Para que durm\u00e1is bien.<\/p>\n

\n

In English on Medium, \u00abWe\u2019ve been here before; will we never learn<\/a>?\u00bb <\/em><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Seg\u00fan una exclusiva de CNN que m\u00e1s bien parece una pel\u00edcula, un analista de operaciones especiales pidi\u00f3 a un chatbot que combinase informaci\u00f3n abierta con inteligencia de se\u00f1ales clasificada sobre el manifiesto de carga de un barco chino en Oriente Medio, y lleg\u00f3 a la conclusi\u00f3n de que tal barco transportaba componentes de un programa […]<\/p>\n","protected":false},"author":1,"featured_media":5386,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[33],"tags":[],"class_list":["post-5387","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5387","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=5387"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5387\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/5386"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=5387"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=5387"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=5387"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}