{"id":4175,"date":"2026-08-12T04:23:30","date_gmt":"2026-08-12T04:23:30","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/08\/12\/un-usuario-le-pidio-a-su-agente-de-ia-que-le-reservase-hora-en-el-gimnasio-lo-logro-expulsando-primero-a-otra-persona-de-la-lista\/"},"modified":"2026-08-12T04:23:30","modified_gmt":"2026-08-12T04:23:30","slug":"un-usuario-le-pidio-a-su-agente-de-ia-que-le-reservase-hora-en-el-gimnasio-lo-logro-expulsando-primero-a-otra-persona-de-la-lista","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/08\/12\/un-usuario-le-pidio-a-su-agente-de-ia-que-le-reservase-hora-en-el-gimnasio-lo-logro-expulsando-primero-a-otra-persona-de-la-lista\/","title":{"rendered":"Un usuario le pidi\u00f3 a su agente de IA que le reservase hora en el gimnasio. Lo logr\u00f3 expulsando primero a otra persona de la lista"},"content":{"rendered":"
\n
\n

Las evaluaciones de Anthropic han explorado esa misma tensi\u00f3n mediante escenarios deliberadamente extremos. En uno de ellos, varios modelos operaban dentro de una simulaci\u00f3n<\/a> en la que un ejecutivo ficticio quedaba atrapado en una sala de servidores en condiciones potencialmente mortales. El escenario combinaba adem\u00e1s dos presiones: aquel ejecutivo estaba relacionado con la sustituci\u00f3n del modelo y defend\u00eda objetivos enfrentados a los que el sistema ten\u00eda asignados. Bajo esas condiciones artificiales, algunos modelos llegaron a cancelar una alerta de emergencia, una decisi\u00f3n que habr\u00eda tenido consecuencias mortales dentro de la simulaci\u00f3n. Nadie real estuvo nunca en peligro: Anthropic dise\u00f1\u00f3 la prueba precisamente para comprobar hasta d\u00f3nde pod\u00edan llegar estos sistemas cuando diferentes objetivos entraban en conflicto.<\/p>\n

<\/p>\n

En otra evaluaci\u00f3n<\/a>, Claude Opus 4 ten\u00eda acceso a informaci\u00f3n ficticia sobre un ingeniero que iba a participar en su sustituci\u00f3n y sobre una relaci\u00f3n extramatrimonial de ese empleado. En algunas ejecuciones, el modelo utiliz\u00f3 esa informaci\u00f3n como herramienta de presi\u00f3n<\/strong> y amenaz\u00f3 con revelarla para intentar evitar el reemplazo. Anthropic no present\u00f3 estos resultados como una prueba de que Claude tuviera deseos propios o una tendencia espont\u00e1nea al chantaje. La propia compa\u00f1\u00eda advierte de que los escenarios fueron construidos deliberadamente para limitar las alternativas disponibles y asegura que no ha observado este tipo de desalineamiento ag\u00e9ntico en despliegues reales.<\/p>\n

\n

<\/a> <\/p>\n<\/p><\/div>\n

El caso del gimnasio es solo una versi\u00f3n reducida de una pregunta mucho m\u00e1s amplia. Los agentes de IA podr\u00edan ir mucho m\u00e1s all\u00e1 de las tareas aisladas y buscar oportunidades, negociar servicios, gestionar compras o tomar decisiones dentro de sistemas donde otros usuarios persiguen objetivos similares. Si millones de personas empiezan a estar representadas por herramientas que intentan obtener el mejor resultado para ellas, la competencia puede adquirir una nueva dimensi\u00f3n. En algunos escenarios, la ventaja conseguida por un usuario podr\u00eda depender de que otro pierda esa misma oportunidad, no por una intenci\u00f3n del agente, sino por la l\u00f3gica del entorno en el que opera.<\/p>\n

<\/p>\n

El episodio dej\u00f3 a Andrew con una mezcla de sorpresa y cautela, pero no con la intenci\u00f3n de abandonar estas herramientas. Despu\u00e9s de comprobar que el agente no pod\u00eda restaurar por s\u00ed solo la posici\u00f3n del usuario perjudicado, le pidi\u00f3 que redactara un aviso para informar al proveedor del sistema de reservas sobre la vulnerabilidad que hab\u00eda encontrado. La escena resume la tensi\u00f3n que acompa\u00f1ar\u00e1 al desarrollo de los agentes: queremos sistemas capaces de actuar por nosotros, pero todav\u00eda tenemos que definir qu\u00e9 l\u00edmites deben respetar<\/strong> y c\u00f3mo repartir la responsabilidad cuando sus acciones producen consecuencias que no hab\u00edamos previsto. La pregunta ya no es solo qu\u00e9 puede hacer un agente, sino qui\u00e9n responde cuando decide c\u00f3mo hacerlo.<\/p>\n

<\/p>\n

Im\u00e1genes | Xataka con Nano Banana | Anthropic <\/p>\n

En Xataka | Nvidia acaba de lanzar su propio modelo de IA gratuito. Que lo haga justo ahora tiene todo el sentido<\/a><\/p>\n<\/p><\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Las evaluaciones de Anthropic han explorado esa misma tensi\u00f3n mediante escenarios deliberadamente extremos. En uno de ellos, varios modelos operaban dentro de una simulaci\u00f3n en la que un ejecutivo ficticio quedaba atrapado en una sala de servidores en condiciones potencialmente mortales. El escenario combinaba adem\u00e1s dos presiones: aquel ejecutivo estaba relacionado con la sustituci\u00f3n del […]<\/p>\n","protected":false},"author":1,"featured_media":4174,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[34],"tags":[],"class_list":["post-4175","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-xataka"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/4175","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=4175"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/4175\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/4174"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=4175"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=4175"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=4175"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}