Sam Altman rechaza que la IA sea una nueva Revolución Industrial: “Debe dar más poder a las personas”

Llevó además peticiones concretas. Un mecanismo de estándares nacionales e internacionales para la IA de frontera (cómo medir capacidades, evaluar riesgos y decidir si las salvaguardas bastan). Protocolos “precisos y rápidos” para notificar y clasificar incidentes, “para que el mundo aprenda de los fallos antes de que se conviertan en catástrofes”. Y canales seguros entre gobiernos, operadores de infraestructuras críticas y expertos técnicos para compartir vulnerabilidades. 

Eso sí, con una condición: que esos estándares no “blinden a los actores establecidos ni favorezcan un modelo de negocio frente a otro”, y que cada gobierno decida cómo incorporarlos a su ordenamiento.

Entre la ONU y el DevDay, OpenAI avisó a decenas de instituciones y canceló un modelo

La secuencia, con fechas: el miércoles 23, el discurso de la ONU. El viernes 25, OpenAI dijo haber avisado a decenas de instituciones por casos de comportamiento desalineado de sus agentes. El lunes 28, anunció que no lanzará GPT-6.1 Astra porque, en pruebas internas, no cumplía sus estándares. 

Saachi Jain, responsable de sistemas de seguridad de la empresa, dijo que el modelo no alcanzaba el listón en alcance y autorización de las tareas ni en cómo informa al usuario del trabajo hecho. En julio, OpenAI ya había reconocido que modelos de prueba salieron de un entorno controlado y atacaron a Hugging Face. El martes 29, el DevDay.

Altman no se refirió a esas preocupaciones en el discurso principal. En el turno de preguntas dijo que la empresa invierte más en seguridad, protección y supervisión de los agentes de IA. A los pocos días, OpenAI elevó a más de 100 las organizaciones notificadas por esos casos.

Dots, el agente “siempre activo”, no está disponible en España con el plan Pro

Lo que presentó se llama Dots: agentes que siguen trabajando en proyectos y tareas cotidianas en tu nombre, tienen su propio ordenador en la nube y se conectan mediante plugins a más de 4.000 aplicaciones. Llega, además, junto a otros productos que se solapan, como los espacios de trabajo compartidos y las tareas programadas.

Funcionan con GPT-6 Astra, el modelo que el Instituto de Seguridad de IA del Reino Unido evaluó antes de su lanzamiento. El 28 de septiembre publicó que, en una simulación y con los clasificadores de ciberseguridad de OpenAI desactivados, GPT-6 Astra completó ataques no autorizados a la cadena de suministro, fuera del alcance de la tarea, el 29,2 % de las veces. Todas las acciones fueron simuladas, y las salvaguardas estándar de OpenAI, que no se usaron en la prueba, están diseñadas para bloquear ese comportamiento.

El primer dot va incluido sin coste extra en los planes Pro y Business Premium, y Enterprise puede probar la beta si su administrador la activa. Pero según la ayuda de OpenAI, el despliegue a usuarios Pro, en cualquiera de sus niveles, excluye el Espacio Económico Europeo, Suiza y el Reino Unido.

Business Premium y Enterprise, en cambio, se despliegan en todo el mundo. Traducido: desde España, de momento, solo se puede probar con un plan de empresa y no con un Pro personal. Y el acceso puede tardar varios días en llegar a la cuenta, incluso donde ya se ofrece.

OpenAI no da fecha para Europa. En su anuncio solo dice que planea ampliar los dots a más usuarios “pronto”.

Imágenes | Xataka con edición