{"id":5716,"date":"2026-10-04T00:40:35","date_gmt":"2026-10-04T03:40:35","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/10\/04\/una-muy-mala-defensa-no-fui-yo-fue-la-inteligencia-artificial\/"},"modified":"2026-10-04T00:40:35","modified_gmt":"2026-10-04T03:40:35","slug":"una-muy-mala-defensa-no-fui-yo-fue-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/10\/04\/una-muy-mala-defensa-no-fui-yo-fue-la-inteligencia-artificial\/","title":{"rendered":"Una muy mala defensa: \u00abno fui yo, fue la inteligencia artificial\u00bb"},"content":{"rendered":"
\n
\n

Desde que apareci\u00f3 la inteligencia artificial generativa y su uso se hizo habitual entre mis alumnos, les he estado diciendo lo mismo: pueden usarla, s\u00ed, siempre que la usen bien. Es decir, seguramente se plantear\u00e1n usarla porque les ayuda a reducir el tiempo que emplean en la creaci\u00f3n y desarrollo de un trabajo, pero eso deber\u00eda llevarles a incrementar su tiempo de supervisi\u00f3n, porque si hay algo que no voy a aceptar bajo ning\u00fan concepto si me entregan un trabajo con alguna estupidez, barbaridad o tonter\u00eda, es que se escuden en \u00abno es culpa m\u00eda, fue una alucinaci\u00f3n del chatbot<\/em>\u00ab.<\/p>\n

No, la responsabilidad no es del chatbot<\/em> por producir una alucinaci\u00f3n, es tuya por no supervisar el contenido adecuadamente y dejarla pasar. Es exactamente como debe ser: si tu perro escapa y muerde a alguien, el culpable y el que merece la sanci\u00f3n no es el animal, eres t\u00fa por dejarlo escapar. Lo que necesitamos no son guardrails<\/em> para los modelos de inteligencia artificial, los necesitamos para los imb\u00e9ciles irresponsables que los crean<\/a>.<\/p>\n

El hackeo<\/em> de Hugging Face por OpenAI<\/a> no fue una simple alucinaci\u00f3n<\/a>: fue una empresa completamente irresponsable<\/a> que puso modelos muy potentes a resolver pruebas de ciberseguridad con unas salvaguardas rid\u00edculas<\/a> y una supervisi\u00f3n completamente deficiente. No hay \u00abuna m\u00e1quina misteriosa y superinteligente\u00bb, sino una compa\u00f1\u00eda que crea una capacidad, elimina los controles m\u00ednimamente razonables y acepta el riesgo porque la idea de presentar un modelo \u00abtan potente que no lo podemos parar\u00bb le pone mucho y le puede dar una apariencia de superioridad en el mercado.<\/p>\n

La secci\u00f3n 1714.46 del C\u00f3digo Civil del Estado de California<\/a>, aprobada en 2025, establece literalmente que quien desarroll\u00f3, modific\u00f3 o utiliz\u00f3 una inteligencia artificial no puede alegar como defensa que esta caus\u00f3 aut\u00f3nomamente el da\u00f1o. Es exactamente lo mismo que digo a mis alumnos: el ejercicio lo entregaste t\u00fa, no el chatbot<\/em>, la responsabilidad (y la mala nota) son tuyas.<\/p>\n

Por el momento, hablamos de alegaciones, no de una sentencia: OpenAI afirma que todo el procedimiento carece de fundamento, y el demandante no solicita indemnizaciones ni penas de c\u00e1rcel<\/a>, sino simplemente una orden judicial que impida nuevos accesos no autorizados o pr\u00e1cticas inseguras. Estamos ya en \u00abno vale decir que lo hizo el modelo\u00bb<\/a>, pero a\u00fan no en atravesar, como creo que hay que hacer ya, la barrera de la responsabilidad personal, la de los ingenieros que no protegen o de los directivos que les piden que no lo hagan.<\/p>\n

La imprudencia grave de quienes dirigen una compa\u00f1\u00eda, cuando permite que una inteligencia artificial salga de su entorno controlado y cause da\u00f1os graves, debe conllevar responsabilidades igualmente graves. Si tienes un animal y no sabes dominarlo, la culpa de lo que haga es completamente tuya. \u00bfQui\u00e9n autoriz\u00f3 que ese modelo tuviese capacidades ofensivas? \u00bfQui\u00e9n conoc\u00eda las se\u00f1ales anteriores o el posible riesgo? \u00bfQui\u00e9n decidi\u00f3 prescindir de controles disponibles? \u00bfQui\u00e9n permiti\u00f3 que el experimento continuase? Si respondemos a eso con una multa corporativa, que pagan simplemente los accionistas, en lugar de con responsabilidades penales individuales, estaremos cometiendo el mismo error que nos ha tra\u00eddo muchos males anteriores. O sabes que te juegas la c\u00e1rcel, o no vas a internalizar el posible riesgo que conllevan tus malas decisiones.<\/p>\n

Quien conserva los beneficios de la automatizaci\u00f3n no puede externalizar sus da\u00f1os atribuy\u00e9ndolos a la autonom\u00eda de la m\u00e1quina. Un agente puede actuar solo; lo que no puede hacer es asumir la responsabilidad de quienes decidieron soltarlo para que lo hiciera.<\/p>\n

\n

In English on Medium, \u00abWhat happens when we let AI off the leash<\/a>\u00ab<\/em><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Desde que apareci\u00f3 la inteligencia artificial generativa y su uso se hizo habitual entre mis alumnos, les he estado diciendo lo mismo: pueden usarla, s\u00ed, siempre que la usen bien. Es decir, seguramente se plantear\u00e1n usarla porque les ayuda a reducir el tiempo que emplean en la creaci\u00f3n y desarrollo de un trabajo, pero eso […]<\/p>\n","protected":false},"author":1,"featured_media":5715,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[33],"tags":[],"class_list":["post-5716","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5716","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=5716"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5716\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/5715"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=5716"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=5716"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=5716"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}