{"id":5886,"date":"2026-10-08T02:26:17","date_gmt":"2026-10-08T05:26:17","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/10\/08\/por-que-el-futuro-de-la-seguridad-en-ti-implica-mas-que-solo-modelos-de-ia\/"},"modified":"2026-10-08T02:26:17","modified_gmt":"2026-10-08T05:26:17","slug":"por-que-el-futuro-de-la-seguridad-en-ti-implica-mas-que-solo-modelos-de-ia","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/10\/08\/por-que-el-futuro-de-la-seguridad-en-ti-implica-mas-que-solo-modelos-de-ia\/","title":{"rendered":"Por qu\u00e9 el futuro de la seguridad en TI implica m\u00e1s que solo modelos de IA"},"content":{"rendered":"
\n
\n
\n

Por Chris Wright, director de tecnolog\u00eda y vicepresidente s\u00e9nior de Ingenier\u00eda Global, Red Hat.<\/em><\/strong><\/p>\n

Gran parte del debate p\u00fablico sobre la IA y su impacto en la ciberseguridad se concentra casi exclusivamente en los modelos, y algunos sostienen que una autoridad central deber\u00eda gestionar los modelos m\u00e1s avanzados a puerta cerrada. Incluso se ha debatido sobre la posibilidad de regular estrictamente o prohibir los modelos open weight, en nombre de la seguridad. Pero mientras los reguladores de todo el mundo discuten el futuro de los modelos abiertos de IA, una pregunta fundamental queda relegada: \u00bfc\u00f3mo protegemos realmente los sistemas de IA?<\/em><\/p>\n

La seguridad de la IA es un desaf\u00edo de software, no solo de los modelos<\/strong><\/span><\/h2>\n

Un agente de IA no es solo un modelo, sino un stack de software completo. Proteger este sistema requiere analizar el modelo principal, el agentic harness, las t\u00e9cnicas de sandboxing, los mecanismos de protecci\u00f3n en tiempo de ejecuci\u00f3n, los controles de datos y toda una serie de capas de la infraestructura subyacente. Es importante destacar que tres de estos cuatro componentes \u2014harnesses, sandboxes y capas tradicionales de aplicaciones\u2014 est\u00e1n fundamentalmente arraigados en la ingenier\u00eda de software, y no en el modelo.<\/p>\n

Intentar proteger el ecosistema de IA fragmentando el software detr\u00e1s de barreras cerradas y propietarias solo traslada el riesgo, en lugar de resolverlo. D\u00e9cadas atr\u00e1s, cuando surgi\u00f3 Linux, exist\u00edan muchas dudas e incertidumbre sobre si el open source era una soluci\u00f3n estable y segura para las empresas. Los cr\u00edticos afirmaban que solo el desarrollo cerrado pod\u00eda ofrecer confiabilidad de nivel empresarial. Sin embargo, el tiempo demostr\u00f3 exactamente lo contrario: desde entonces, el software open source se convirti\u00f3 en el principal impulsor de la mayor parte de la infraestructura de TI empresarial en el mundo, donde la escala y la seguridad son requisitos innegociables.<\/p>\n

Hoy en d\u00eda estamos viendo exactamente la misma resistencia. As\u00ed como Linux demostr\u00f3 que la transparencia y la colaboraci\u00f3n comunitaria crean un sistema operativo m\u00e1s robusto, los modelos de IA open source, los agentic harnesses open source y el sandboxing transparente demostrar\u00e1n ser la base m\u00e1s segura para el futuro de la computaci\u00f3n.<\/p>\n

Los agentes de IA integran modelos, aplicaciones, mecanismos de sandboxing y controles de seguridad que deben protegerse de manera integral.<\/figcaption><\/figure>\n

Por qu\u00e9 los modelos abiertos y la transparencia son esenciales para la defensa<\/strong><\/span><\/h2>\n

En la ciberseguridad, la transparencia es parte fundamental de la construcci\u00f3n de sistemas seguros. Como sostiene un antiguo principio de TI: la seguridad por oscuridad es menos segura.<\/p>\n

Limitarnos a un conjunto reducido de modelos propietarios para la investigaci\u00f3n en ciberseguridad y la mitigaci\u00f3n de amenazas conlleva riesgos significativos. Los defensores no tienen control sobre qu\u00e9 herramientas deciden utilizar los atacantes. Si se impide que los investigadores y los equipos de seguridad accedan y examinen modelos abiertos enfocados en la defensa, corren el riesgo de quedar a ciegas ante las herramientas y los vectores de ataque explotados por los actores de amenazas. Adem\u00e1s, concentrar el acceso en un n\u00famero reducido de proveedores de sistemas cerrados genera un riesgo sist\u00e9mico concentrado.<\/p>\n

El amplio acceso a los modelos open weight proporciona a los defensores exactamente las herramientas necesarias para desarrollar estrategias de mitigaci\u00f3n efectivas. Los modelos abiertos permiten un amplio escrutinio cient\u00edfico, lo que es esencial para identificar y corregir vulnerabilidades latentes que, de otro modo, permanecer\u00edan ocultas dentro de sistemas propietarios de tipo \u201ccaja negra\u201d.<\/p>\n

Vimos un ejemplo claro de esta din\u00e1mica durante un incidente de seguridad reciente que involucr\u00f3 a Hugging Face. Aunque el origen de la vulnerabilidad estuvo relacionado con modelos propietarios (sistemas que nos hacen creer que son inherentemente seguros), las medidas de mitigaci\u00f3n y protecci\u00f3n fueron impulsadas por modelos open weight. Estos modelos resultaron fundamentales para resolver la amenaza. Es por eso que Red Hat firm\u00f3 la carta abierta de Microsoft sobre Open Weights and American AI Leadership<\/a>. El acceso amplio y abierto a las herramientas de defensa distribuye la seguridad de manera integral a lo largo de todo el ciclo de vida del desarrollo de software.<\/p>\n

Avanzando en la protecci\u00f3n de vanguardia mediante el aprendizaje compartido<\/strong><\/span><\/h2>\n

Con esto en mente, Red Hat est\u00e1 haciendo lo que mejor sabe hacer para ayudar a satisfacer la creciente necesidad de una IA segura: trabajar en colaboraci\u00f3n con la comunidad. Recientemente, como parte de la Open Secure AI Alliance<\/a>, Red Hat colabor\u00f3 con NVIDIA, la Linux Foundation y otros miembros para desarrollar una Solicitud de Comentarios (RFC) para el Grupo de Trabajo Shared AI Findings Exchange (SAFE)<\/a>.<\/p>\n

Hasta ahora, los equipos de TI investigaban de forma interna los incidentes de seguridad que involucraban IA, manteniendo la informaci\u00f3n operativa cr\u00edtica restringida dentro de cada organizaci\u00f3n. Las directrices de SAFE cambian este paradigma al crear un marco neutral para recopilar, analizar y compartir de manera confidencial los hallazgos derivados de fallas operativas en sistemas de IA, sin atribuir culpas.<\/p>\n

Al respaldar el reporte de incidentes y el intercambio abierto de inteligencia sobre amenazas, avanzamos juntos hacia la protecci\u00f3n de vanguardia. A trav\u00e9s de la colaboraci\u00f3n abierta, todo el ecosistema se beneficia: las herramientas evolucionan m\u00e1s r\u00e1pido, las capacidades de defensa se fortalecen y las infraestructuras cr\u00edticas quedan mejor protegidas frente a ataques del mundo real.<\/p>\n

Avanzando juntos<\/strong><\/span><\/h2>\n

Ya sea en las operaciones b\u00e1sicas, en la ingenier\u00eda de software o en la entrega de aplicaciones empresariales, las herramientas de IA evolucionan a una velocidad sin precedentes. La solidez de un sistema depende de la combinaci\u00f3n entre los modelos principales y los harnesses open source que los envuelven para guiar su comportamiento de manera segura hacia los resultados deseados.<\/p>\n

En Red Hat, creemos que la colaboraci\u00f3n abierta y la transparencia siguen siendo las mejores, m\u00e1s r\u00e1pidas y m\u00e1s seguras formas de hacer evolucionar la tecnolog\u00eda. Al enfocarnos en el conocimiento original impulsado por personas y al fomentar ecosistemas abiertos \u2014que abarquen software open source, modelos open weight y agentic harnesses abiertos\u2014, podemos impulsar la seguridad a la par de la innovaci\u00f3n.<\/p>\n

La propuesta completa de la RFC de SAFE ya est\u00e1 disponible en GitHub<\/a> para su revisi\u00f3n, discusi\u00f3n y aportes de la comunidad.<\/p>\n

Leer m\u00e1s<\/span><\/h3>\n