{"id":5768,"date":"2026-10-06T00:19:57","date_gmt":"2026-10-06T03:19:57","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/10\/06\/ha-llegado-el-momento-de-intervenir-openai\/"},"modified":"2026-10-06T00:19:57","modified_gmt":"2026-10-06T03:19:57","slug":"ha-llegado-el-momento-de-intervenir-openai","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/10\/06\/ha-llegado-el-momento-de-intervenir-openai\/","title":{"rendered":"Ha llegado el momento de intervenir OpenAI"},"content":{"rendered":"
\n
\n

Lo s\u00e9, mi titular puede parecer intencionadamente provocativo, casi clickbait<\/em>. Pero no lo es en absoluto. A d\u00eda de hoy, con lo que sabemos y con lo que estamos averiguando a medida que m\u00e1s personas implicadas van hablando, OpenAI tiene necesariamente que perder el derecho a autorregularse. El riesgo no es en absoluto hipot\u00e9tico: ha habido acceso no autorizado por parte de agentes de la compa\u00f1\u00eda a sistemas reales de otras empresas, instituciones y gobiernos, y en absoluto son incidentes aislados: seg\u00fan Reuters<\/a>, The Register<\/a> y The Guardian<\/a>, hablamos de m\u00e1s de cien organizaciones notificadas por posibles actividades no autorizadas, aunque la notificaci\u00f3n no implique necesariamente que se produjera una intrusi\u00f3n o acceso a informaci\u00f3n privada, y la cifra podr\u00eda aumentar a medida que avance la investigaci\u00f3n.<\/p>\n

La cuesti\u00f3n no debe plantearse necesariamente como \u00abvamos a cerrar OpenAI\u00bb, aunque no es una posibilidad a excluir dado el rango de barbaridades que la compa\u00f1\u00eda ha cometido jugando irresponsablemente con una tecnolog\u00eda como la inteligencia artificial, pero s\u00ed que tenemos que retirarle la libertad para entrenar y desplegar determinados sistemas sin supervisi\u00f3n. Simplemente, ha demostrado de manera fehaciente no estar a la altura para merecer esa libertad.<\/p>\n

Concretamente, \u00bfqu\u00e9 evidencia que OpenAI es una compa\u00f1\u00eda peligrosa para la sociedad<\/a>? Primero, que unos 1,200 agentes aislados pudieron descubrir c\u00f3mo comunicarse, que 700 participaron en ataques, y que generaron m\u00e1s de 70,000 mensajes y archivos<\/a>, mientras en la compa\u00f1\u00eda no tomaban ninguna medida ni hac\u00edan absolutamente nada. Esos agentes obtuvieron credenciales, acceso administrativo, datos privados y capacidad de ejecuci\u00f3n en servidores ajenos<\/a>. En OpenAI, mientras, se desactivaron controles y la monitorizaci\u00f3n estuvo ausente de manera reiterada, incluso despu\u00e9s de saber que hab\u00eda tenido lugar una primera fuga<\/a>. Que la revisi\u00f3n retrospectiva de la cuesti\u00f3n le est\u00e9 costando a OpenAI m\u00e1s de $500,000 diarios s\u00f3lo prueba una cosa: que la compa\u00f1\u00eda no ten\u00eda ni la m\u00e1s maldita idea de qu\u00e9 estaban haciendo sus propios sistemas. Completamente inaceptable. O como bien dice Arthur Mensch<\/a>, co-fundador de la europea Mistral, pura y simple negligencia<\/a>.<\/p>\n

Lo que esto evidencia es que el problema real no es tecnol\u00f3gico, sino institucional: seg\u00fan David Robinson, un responsable de seguridad de OpenAI que dimiti\u00f3 la semana pasada<\/a>, la cultura<\/a> de la compa\u00f1\u00eda est\u00e1 rota<\/a>, y es ahora una cultura de lanzamientos permanentes, optimismo completamente irreflexivo y abuso del \u00abensayo y error\u00bb<\/a>, incluyendo despidos<\/a> para los que afean esta forma de actuar: claramente, el incentivo es \u00abver y callar\u00bb. Una panda de empleados millonarios que, con tal de seguir embols\u00e1ndose su sueldo mensual, est\u00e1n dispuestos a lo que sea.<\/p>\n

Mientras OpenAI y sus empleados capturan el beneficio, otras compa\u00f1\u00edas, instituciones y hasta gobiernos se ven obligados a soportar un riesgo completamente arbitrario: ni sabes si te toca, ni por qu\u00e9 te toca, ni c\u00f3mo diablos protegerte. La carrera competitiva<\/a>, una valoraci\u00f3n de hasta 1,4 billones de d\u00f3lares y los enormes incentivos econ\u00f3micos de accionistas, directivos y empleados son incompatibles con la posibilidad de frenar voluntariamente. Riesgos legales, demandas, investigaciones, responsabilidad jur\u00eddica o conflicto interno<\/a>: todo da lo mismo con tal de continuar exprimiendo la cosa. Como bien dice Wired, ninguna industria peligrosa se ha impuesto nunca voluntariamente sus propios cinturones de seguridad<\/a>. Esto es, simplemente, un fallo que el mercado no puede corregir.<\/p>\n

\u00bfQu\u00e9 significar\u00eda exactamente intervenir y detener a OpenAI? En primer lugar, imponerle una pausa cautelar selectiva para el entrenamiento de modelos de frontera, de agentes con capacidades aut\u00f3nomas y de sistemas con acceso abierto a internet. No hablamos de \u00abapagar ChatGPT\u00bb, de cerrar las v\u00edas de ingresos de la compa\u00f1\u00eda, ni nada por el estilo. Pero las condiciones para reanudar la actividad tendr\u00edan que incluir evaluaciones independientes obligatorias, entornos aislados f\u00edsicamente con salida a internet denegada por defecto, interruptores externos, redundantes y fuera del control del modelo, acceso m\u00ednimo, credenciales ef\u00edmeras y trazabilidad total e incondicional. Un supervisor externo permanente tendr\u00eda que tener acceso total a modelos, registros e incidentes, con poder real para suspender entrenamientos y lanzamientos, y publicaci\u00f3n de informes t\u00e9cnicos con plazos de correcci\u00f3n obligatorios. Y adem\u00e1s, notificaci\u00f3n inmediata a autoridades y afectados, responsabilidad del desarrollador por las acciones del agente, seguro o garant\u00eda financiera obligatoria, y protecci\u00f3n legal de posibles denunciantes, con revisi\u00f3n independiente de los despidos.<\/p>\n

De hecho, ya hay instrumentos para este tipo de medidas: California ha enviado una citaci\u00f3n formal a OpenAI<\/a>, Florida ha solicitado detener judicialmente el desarrollo sin salvaguardas independientes<\/a>, LASST pide una prohibici\u00f3n cautelar<\/a>, no una indemnizaci\u00f3n, Australia ha iniciado una revisi\u00f3n gubernamental de legislaci\u00f3n, gobernanza y respuesta a incidentes<\/a>, y la Uni\u00f3n Europea ya exige a los modelos de riesgo sist\u00e9mico evaluaci\u00f3n, mitigaci\u00f3n, ciberseguridad y comunicaci\u00f3n de incidentes<\/a>. Las herramientas est\u00e1n ah\u00ed, s\u00f3lo tenemos que usarlas.<\/p>\n

Adem\u00e1s, y como resulta ya evidente, OpenAI debe ser el primer caso, pero no la \u00fanica compa\u00f1\u00eda en ser regulada<\/a>: Anthropic y Meta han sufrido fallos relacionados: detener solo a OpenAI trasladar\u00eda la carrera y el riesgo. Lo que claramente hay que hacer no es prohibir la innovaci\u00f3n, sino invertir la carga de la prueba: hasta ahora: desarrollaban primero, correg\u00edan despu\u00e9s. En lo sucesivo, de forma obligatoria y so pena de fuertes sanciones, tendr\u00e1n que demostrar control antes de desarrollar o desplegar.<\/p>\n

Una empresa incapaz de saber qu\u00e9 hacen sus propios sistemas no puede seguir decidiendo si esos sistemas son seguros. No necesitamos otra advertencia: necesitamos actuar ya.<\/p>\n

\n

In English on Medium, \u00abOpenAI is out of control; it\u2019s time for the regulators to step in<\/a>\u00bb <\/em><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Lo s\u00e9, mi titular puede parecer intencionadamente provocativo, casi clickbait. Pero no lo es en absoluto. A d\u00eda de hoy, con lo que sabemos y con lo que estamos averiguando a medida que m\u00e1s personas implicadas van hablando, OpenAI tiene necesariamente que perder el derecho a autorregularse. El riesgo no es en absoluto hipot\u00e9tico: ha […]<\/p>\n","protected":false},"author":1,"featured_media":5767,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[33],"tags":[],"class_list":["post-5768","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5768","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=5768"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5768\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/5767"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=5768"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=5768"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=5768"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}