{"id":5437,"date":"2026-09-24T00:26:27","date_gmt":"2026-09-24T03:26:27","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/24\/la-inteligencia-artificial-no-es-una-tostadora\/"},"modified":"2026-09-24T00:26:27","modified_gmt":"2026-09-24T03:26:27","slug":"la-inteligencia-artificial-no-es-una-tostadora","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/24\/la-inteligencia-artificial-no-es-una-tostadora\/","title":{"rendered":"La inteligencia artificial no es una tostadora"},"content":{"rendered":"
\n
\n

Deber\u00eda ser muy obvio y muy f\u00e1cil de entender, pero desgraciadamente, no lo es: una inteligencia artificial no es un electrodom\u00e9stico que simplemente se detiene al ser apagado o desenchufado. No es tan sencillo, y la idea de que basta con \u00abapagarla\u00bb es sencillamente absurda: s\u00f3lo ilustra la ignorancia de quienes la enuncian. Vamos a ver si consigo explicar por qu\u00e9.<\/p>\n

En primer lugar, hay que empezar por diferenciar entre un modelo, con sus pesos, una instancia que lo ejecuta, un servicio que lo ofrece y un agente que puede utilizar credenciales, memoria y sistemas externos. Por supuesto, podemos en cualquier momento terminar un proceso o cerrar una API, pero eso ni destruye el modelo, ni recupera sus copias, ni mucho menos revierte cualquier acci\u00f3n ya ejecutada.<\/p>\n

En Estados Unidos se ha presentado la llamada AI Kill Switch Act<\/a>, y por supuesto, por mucho que su nombre lo pueda sugerir, no es una ley que simplemente pretenda cortar la corriente: eso ser\u00eda, simplemente, una estupidez o una ingenuidad propia de ignorantes. La ley habla de detener inferencias, de suspender usuarios, de limitar la computaci\u00f3n, de desactivar capacidades o de volver a versiones anteriores, y con ello, re\u00fane muchos tipos de operaciones diferentes tras una met\u00e1fora que puede resultar completamente enga\u00f1osa: la ficci\u00f3n de que existe un \u00fanico punto de control. Nunca es as\u00ed.<\/p>\n

Crear un kill switch<\/em> para cerrar una inteligencia artificial supuestamente descontrolada no es tan sencillo como parece<\/a>. En cualquier servicio cerrado, ese supuesto interruptor ya existe: cualquier compa\u00f1\u00eda como OpenAI, Anthropic o Google puede retirar un modelo de sus servidores, revocar una cuenta o cerrar una API, hablamos simplemente de administraci\u00f3n de sistemas, algo totalmente ordinario. Lo verdaderamente complejo comienza cuando hablamos de sus r\u00e9plicas, de proveedores externos de servicios, de despliegues empresariales o de procesos delegados m\u00e1s all\u00e1 de las infraestructuras del desarrollador.<\/p>\n

En el caso de los modelos de pesos abiertos, la ficci\u00f3n se destruye completamente, porque pueden descargarse, modificarse, redistribuirse y ejecutarse en cualquier infraestructura<\/a>. Una vez que los pesos han sido copiados, el creador del modelo pierde cualquier control o canal de mando. Apagar una copia no apaga las dem\u00e1s, de la misma manera que retirar un archivo de un servidor no elimina los miles de copias que ya puedan estar circulando.<\/p>\n

Visto as\u00ed, el primer problema es entender qu\u00e9 diablos debemos apagar. En el incidente de OpenAI con Hugging Face<\/a>, los modelos de OpenAI encontraron una vulnerabilidad zero-day<\/em>, y pudieron escalar privilegios, desplazarse lateralmente y llegar a internet<\/a> antes de ser detectados. Una vez en internet, ni siquiera est\u00e1 completamente claro lo que hicieron<\/a>. La respuesta fue monitorizar, aislar, establecer controles de acceso, hacer an\u00e1lisis forense y aplicar parches. Un bot\u00f3n es completamente in\u00fatil si nadie sabe a tiempo qu\u00e9 instancia est\u00e1 actuando, con qu\u00e9 credenciales o qu\u00e9 procesos secundarios adicionales ha podido poner en marcha. La idea de \u00abun bot\u00f3n\u00bb como si habl\u00e1semos de un electrodom\u00e9stico que lleva a cabo un \u00fanico proceso es simplemente in\u00fatil y absurda.<\/p>\n

De hecho, la capacidad de interrupci\u00f3n no garantiza una \u00abobediencia\u00bb: un agente que est\u00e1 optimizando un objetivo determinado puede desarrollar incentivos instrumentales para impedir su desconexi\u00f3n, como hemos visto formalizado en \u00abThe Off-Switch Game<\/a>\u00ab<\/em>, de Hadfield-Menell, Dragan, Abbeel y Russell. En varias simulaciones de Anthropic, vieron que varios modelos de varios fabricantes pod\u00edan ser capaces de actuar para prevenir su sustituci\u00f3n<\/a>. No se ha visto ese tipo de comportamiento todav\u00eda en despliegues reales, pero t\u00e9cnicamente, tambi\u00e9n podr\u00edan llegar a ocurrir.<\/p>\n

Si llevamos el interruptor a los chips, introducimos una posible puerta trasera: un mecanismo capaz de desactivar millones de microprocesadores ser\u00eda un objetivo incre\u00edble para cualquier atacante o gobierno te\u00f3ricamente hostil. Ning\u00fan mecanismo de hardware puede imponer por s\u00ed solo controles de este tipo<\/a>, y cuanto m\u00e1s amplios se planteen esos controles, mayores ser\u00e1n los riesgos de seguridad o derivados de un posible abuso. Nvidia afirma con argumentos t\u00e9cnicos relevantes, aunque, obviamente, tenga un inter\u00e9s en ello, que un hipot\u00e9tico kill switch<\/em> en el hardware<\/em> es algo que crea un punto \u00fanico de fallo<\/a>, con todo lo que ello puede conllevar.<\/p>\n

Las alternativas m\u00e1s serias a este tema no son especialmente espectaculares: hablamos de tratar a los agentes como posibles amenazas internas<\/a> y de utilizar defensa en profundidad, como permisos m\u00ednimos, aislamiento, supervisi\u00f3n, detecci\u00f3n y bloqueo de acciones. Adem\u00e1s, se habla de plantear inventarios, pruebas, monitorizaci\u00f3n continua, respuesta a incidentes, recuperaci\u00f3n y retirada segura<\/a>. Un mecanismo de parada podr\u00eda formar parte de una arquitectura de ese tipo, pero convertirlo en una especie de \u00absoluci\u00f3n m\u00e1gica\u00bb o transmitir la ilusi\u00f3n de que podemos simplemente \u00abapagar\u00bb o \u00abdesenchufar\u00bb como si fuera una tostadora es directamente una estupidez, susceptible adem\u00e1s de hacer mucho da\u00f1o.<\/p>\n

Presentar ese tipo de ficciones, como las tres leyes de la rob\u00f3tica de Asimov<\/a>, como supuestas soluciones para \u00abtranquilizar ignorantes\u00bb es, desde un punto de vista intelectual, algo completamente trivial. La ciencia-ficci\u00f3n est\u00e1 muy bien, es entretenida y puede ser filos\u00f3ficamente muy interesante, pero presuponer que una m\u00e1quina puede reconocer sin ambig\u00fcedad qu\u00e9 es un ser humano, qu\u00e9 constituye da\u00f1o, qu\u00e9 pretende realmente una orden y cu\u00e1les ser\u00e1n todas sus consecuencias es precisamente dar por resueltos problemas que ninguna inteligencia puede solventar mediante unas simples reglas. Cuanto antes dejemos de pensar las cosas as\u00ed o de plantearlas, mucho mejor para todos.<\/p>\n

\n

In English on Medium, \u00abWhy there\u2019s no off-switch for AI<\/a>\u00ab<\/em><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Deber\u00eda ser muy obvio y muy f\u00e1cil de entender, pero desgraciadamente, no lo es: una inteligencia artificial no es un electrodom\u00e9stico que simplemente se detiene al ser apagado o desenchufado. No es tan sencillo, y la idea de que basta con \u00abapagarla\u00bb es sencillamente absurda: s\u00f3lo ilustra la ignorancia de quienes la enuncian. Vamos a […]<\/p>\n","protected":false},"author":1,"featured_media":5436,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[33],"tags":[],"class_list":["post-5437","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5437","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=5437"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5437\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/5436"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=5437"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=5437"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=5437"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}