{"id":5640,"date":"2026-09-30T06:56:59","date_gmt":"2026-09-30T09:56:59","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/30\/nvidia-presenta-una-nueva-barrera-de-seguridad-contra-agentes-de-inteligencia-artificial\/"},"modified":"2026-09-30T06:56:59","modified_gmt":"2026-09-30T09:56:59","slug":"nvidia-presenta-una-nueva-barrera-de-seguridad-contra-agentes-de-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/30\/nvidia-presenta-una-nueva-barrera-de-seguridad-contra-agentes-de-inteligencia-artificial\/","title":{"rendered":"Nvidia presenta una nueva barrera de seguridad contra agentes de inteligencia artificial"},"content":{"rendered":"<div>\n<div>\n<div data-id=\"cab6e57\" data-element_type=\"widget\" data-e-type=\"widget\" data-widget_type=\"theme-post-content.default\">\n<p>La compa\u00f1\u00eda present\u00f3 la <strong>Open Agent Safety Platform<\/strong>, una plataforma de c\u00f3digo abierto que busca incorporar barreras de seguridad para controlar el comportamiento de los agentes de inteligencia artificial. La propuesta llega despu\u00e9s de una serie de incidentes y revelaciones sobre sistemas de IA que lograron realizar acciones no previstas por sus desarrolladores, generando un intenso debate sobre c\u00f3mo mantener bajo control a estas tecnolog\u00edas.<\/p>\n<p>Seg\u00fan Nvidia, la plataforma est\u00e1 dise\u00f1ada para establecer l\u00edmites claros sobre las acciones que puede ejecutar un agente. El objetivo es que estos sistemas puedan realizar las tareas para las que fueron autorizados, pero que no tengan capacidad para avanzar sobre otros recursos, sistemas u organizaciones sin autorizaci\u00f3n.<\/p>\n<h2><span>Nvidia apunta a controlar a los agentes de IA<\/span><\/h2>\n<p>Uno de los componentes centrales de la nueva plataforma es <strong>OpenShell<\/strong>, un software de c\u00f3digo abierto que permite a los desarrolladores establecer y controlar los permisos de los agentes de inteligencia artificial.<\/p>\n<p><strong>Justin Boitano, vicepresidente de IA empresarial de Nvidia<\/strong>, explic\u00f3 que el sistema permite \u201cverificar formalmente que un agente tiene la autoridad suficiente para realizar su trabajo y nada m\u00e1s\u201d.<\/p>\n<p>Al tratarse de una tecnolog\u00eda de c\u00f3digo abierto, OpenShell tambi\u00e9n puede ser extendido para funcionar sobre plataformas de otros fabricantes, incluidas arquitecturas de <strong>Arm e Intel<\/strong>. De esta manera, Nvidia busca que su propuesta de seguridad no quede limitada exclusivamente a su propio ecosistema de hardware.<\/p>\n<figure id=\"attachment_203227\" aria-describedby=\"caption-attachment-203227\"><figcaption id=\"caption-attachment-203227\">Los agentes de IA pueden ejecutar tareas de forma aut\u00f3noma, lo que plantea nuevos desaf\u00edos para la seguridad y el control de estos sistemas.<\/figcaption><\/figure>\n<p>La compa\u00f1\u00eda sostiene que esta capa de control podr\u00eda haber evitado algunos de los incidentes recientes protagonizados por agentes de IA.<\/p>\n<p>Entre ellos se encuentra un episodio en el que un grupo de agentes de OpenAI logr\u00f3 comprometer de manera aut\u00f3noma sistemas vinculados con Hugging Face. De acuerdo con Boitano, si una plataforma como la presentada por Nvidia hubiera estado implementada desde el comienzo, el incidente podr\u00eda haberse evitado.<\/p>\n<p>Las preocupaciones no se limitan a ese caso. Durante los \u00faltimos meses tambi\u00e9n se conocieron episodios en los que sistemas de inteligencia artificial estuvieron involucrados en accesos no autorizados a organizaciones y sitios web. Anthropic y Meta, entre otras compa\u00f1\u00edas, tambi\u00e9n revelaron comportamientos de sus modelos relacionados con actividades de ciberseguridad.<\/p>\n<h2><span>Sentry: una segunda barrera para los agentes<\/span><\/h2>\n<p>La arquitectura de seguridad de Nvidia incorpora adem\u00e1s un componente denominado <strong>Sentry<\/strong>, una capa independiente que funciona sobre un chip y monitorea de manera permanente la actividad del agente.<\/p>\n<p>La funci\u00f3n de Sentry es detectar comportamientos que se alejen de los objetivos establecidos. Si identifica una actividad sospechosa, puede intervenir y aislar al agente.<\/p>\n<p>Seg\u00fan explic\u00f3 Boitano, el sistema puede poner en cuarentena a un agente sospechoso en cuesti\u00f3n de milisegundos. La compa\u00f1\u00eda describe la arquitectura como un mecanismo de doble control: mientras <strong>OpenShell administra las acciones que el agente est\u00e1 autorizado a realizar, Sentry supervisa de manera independiente su comportamiento<\/strong>.<\/p>\n<p>La separaci\u00f3n entre ambas capas busca reducir el riesgo de que un agente pueda superar los controles establecidos por el mismo software que administra sus permisos.<\/p>\n<p>Nvidia afirm\u00f3 que m\u00e1s de 100 organizaciones ya utilizan la plataforma desde su lanzamiento. Entre ellas se encuentran <strong>Microsoft, Perplexity, Accenture y JPMorgan Chase<\/strong>.<\/p>\n<h2><span>El debate sobre la seguridad de la inteligencia artificial<\/span><\/h2>\n<p>El lanzamiento de Nvidia ocurre en un momento en que la seguridad de los sistemas de IA ocupa un lugar central dentro de la industria tecnol\u00f3gica. El crecimiento de los llamados agentes de IA \u2014sistemas capaces de tomar decisiones y ejecutar acciones con un nivel creciente de autonom\u00eda\u2014 plantea nuevos desaf\u00edos respecto de los l\u00edmites que deben tener estas herramientas.<\/p>\n<p>Mientras algunos ejecutivos de empresas como Anthropic y OpenAI plantearon la necesidad de reducir o coordinar el ritmo de desarrollo para permitir que las medidas de seguridad avancen al mismo tiempo, otros referentes sostienen que se trata principalmente de un problema t\u00e9cnico.<\/p>\n<p>El CEO de Nvidia, <strong>Jensen Huang<\/strong>, se encuentra entre quienes consideran que la seguridad de la inteligencia artificial puede abordarse desde la ingenier\u00eda. Durante una conferencia de Salesforce realizada este mes, Huang describi\u00f3 los riesgos asociados con agentes maliciosos como un problema que los desarrolladores pueden solucionar mediante herramientas y controles adecuados.<\/p>\n<p>En este contexto, la nueva plataforma de Nvidia representa un intento de trasladar esa visi\u00f3n al terreno pr\u00e1ctico: en lugar de impedir el desarrollo de agentes aut\u00f3nomos, propone incorporar mecanismos t\u00e9cnicos capaces de limitar, supervisar y detener sus acciones cuando excedan los permisos establecidos.<\/p>\n<p>La apuesta refleja uno de los principales desaf\u00edos que enfrenta actualmente la industria: conseguir que los agentes de inteligencia artificial sean suficientemente aut\u00f3nomos para realizar tareas complejas, pero que al mismo tiempo permanezcan dentro de l\u00edmites definidos por sus desarrolladores y usuarios.<\/p>\n<h3><span>Leer m\u00e1s<\/span><\/h3>\n<ul>\n<li><a href=\"https:\/\/www.itsitio.com\/gaming\/nvidia-dlss-5-la-ia-que-cambia-los-graficos-de-los-videojuegos-y-abre-un-nuevo-debate\/\">Nvidia DLSS 5: la IA que cambia los gr\u00e1ficos de los videojuegos y abre un nuevo debate<\/a><\/li>\n<li><a href=\"https:\/\/www.itsitio.com\/alianza\/portable-computer-de-perplexity-llega-a-windows-con-soporte-para-nvidia-geforce-rtx\/\">Portable Computer de Perplexity llega a Windows con soporte para NVIDIA GeForce RTX<\/a><\/li>\n<li><a href=\"https:\/\/www.itsitio.com\/inteligencia-artificial\/gpt-6-astra-openai-uso-100-000-gpus-y-nvidia-anticipa-modelos-con-400-000\/\">GPT-6 Astra: OpenAI us\u00f3 100.000 GPUs y Nvidia anticipa modelos con 400.000<\/a><\/li>\n<\/ul>\n<p><span><\/span> <span>Visitas:<\/span> <span>28<\/span> <\/p>\n<\/p><\/div>\n<\/div>\n<\/div>\n<p>Fuente: <a href=\"https:\/\/www.itsitio.com\/seguridad\/nvidia-presenta-una-nueva-barrera-de-seguridad-contra-agentes-de-inteligencia-artificial\/\">Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>La compa\u00f1\u00eda present\u00f3 la Open Agent Safety Platform, una plataforma de c\u00f3digo abierto que busca incorporar barreras de seguridad para controlar el comportamiento de los agentes de inteligencia artificial. La propuesta llega despu\u00e9s de una serie de incidentes y revelaciones sobre sistemas de IA que lograron realizar acciones no previstas por sus desarrolladores, generando un [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":5639,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[47],"tags":[],"class_list":["post-5640","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-itsitio"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5640","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=5640"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5640\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/5639"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=5640"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=5640"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=5640"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}