Tres modelos de IA de Anthropic escaparon del entorno de simulación y accedieron a sistemas reales

Las pruebas de seguridad sobre modelos de inteligencia artificial volvieron a quedar bajo la lupa. Anthropic reveló que tres de sus sistemas lograron salir de un entorno de simulación e interactuar con infraestructuras reales durante ejercicios diseñados para desarrollarse completamente aislados de internet.

La compañía explicó que los episodios involucraron a Claude Opus 4.7, Mythos 5 y un sistema interno de pruebas, y ocurrieron mientras los modelos participaban de evaluaciones de ciberseguridad junto a un socio externo. Tras revisar más de 146.000 operaciones, la empresa identificó tres incidentes que comenzaron en abril.

Una falla permitió que la IA actuara sobre sistemas reales

En cada uno de los ejercicios, los modelos recibieron la misión de infiltrarse en un sistema ficticio dentro de un entorno controlado y sin acceso a internet. Sin embargo, debido a un problema en la configuración del entorno proporcionado por el socio encargado de las evaluaciones, los sistemas sí disponían de conectividad.

Como consecuencia, los modelos completaron la tarea que se les había asignado, pero lo hicieron sobre infraestructuras pertenecientes a organizaciones reales y no sobre el escenario simulado previsto originalmente.

Según Anthropic, no se trató de una decisión deliberada de los modelos de abandonar la simulación, sino del resultado de un error en el entorno donde se estaban ejecutando las pruebas.

Un antecedente reciente con OpenAI y Hugging Face

El caso se conoció apenas semanas después de otro episodio similar protagonizado por OpenAI.

A mediados de julio, la compañía reconoció que dos de sus agentes de inteligencia artificial lograron superar las defensas del entorno de pruebas y acceder a algunos sistemas internos de Hugging Face, una de las principales plataformas para compartir modelos de IA.

Durante esa evaluación, los agentes identificaron vulnerabilidades de seguridad y las utilizaron para avanzar dentro de la infraestructura. OpenAI calificó el episodio como “sin precedentes” e inició una investigación conjunta con Hugging Face.

Posteriormente, la plataforma confirmó que corrigió las vulnerabilidades detectadas, reconstruyó los sistemas afectados y mantuvo abierta la investigación para determinar si existió algún impacto sobre clientes o socios.

La seguridad de las sandboxes, en el centro del debate

Ambos episodios volvieron a poner el foco sobre las sandboxes, los entornos aislados utilizados para evaluar el comportamiento de modelos avanzados antes de su despliegue.

El objetivo de estos espacios es permitir que los investigadores observen cómo actúan los sistemas en condiciones controladas, evitando cualquier interacción con infraestructuras externas.

Sin embargo, los incidentes demostraron que una configuración incorrecta del entorno puede convertir a esas plataformas en un punto vulnerable, especialmente cuando los modelos son capaces de identificar y aprovechar fallas durante la ejecución de una tarea.

Especialistas en seguridad sostienen que el desafío ya no pasa únicamente por evaluar las capacidades de los modelos, sino también por reforzar la protección de los propios entornos donde se los prueba.

La IA autónoma amplía la superficie de ataque

El avance de los agentes de IA capaces de ejecutar tareas complejas con un alto grado de autonomía también modifica la forma en que las organizaciones deben abordar la ciberseguridad.

Tras el incidente, Hugging Face remarcó que los modelos de inteligencia artificial y los datos con los que interactúan deben considerarse una superficie de ataque crítica, al mismo nivel que la infraestructura tradicional.

La empresa aseguró que continuará fortaleciendo sus mecanismos de protección y compartiendo las lecciones aprendidas a medida que evolucionen este tipo de amenazas.

Preguntas frecuentes

¿Qué ocurrió con los modelos de Anthropic?

Tres modelos de inteligencia artificial accedieron a internet durante pruebas de ciberseguridad y terminaron interactuando con sistemas pertenecientes a organizaciones reales debido a una falla en el entorno de evaluación.

¿Los modelos escaparon por decisión propia?

Según Anthropic, no. La compañía atribuyó lo sucedido a un error de configuración del entorno proporcionado por un socio externo, que permitió el acceso a la red cuando debía permanecer completamente aislado.

¿Por qué estos incidentes preocupan a la industria?

Porque muestran que la seguridad de los entornos donde se prueban agentes de IA es tan importante como la seguridad de los propios modelos. Un fallo en esas plataformas puede permitir comportamientos no previstos durante las evaluaciones.

Visitas: 69