{"id":5265,"date":"2026-09-18T00:12:48","date_gmt":"2026-09-18T03:12:48","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/18\/agentes-de-ia-crean-un-lenguaje-propio-que-los-humanos-no-pueden-entender\/"},"modified":"2026-09-18T00:12:48","modified_gmt":"2026-09-18T03:12:48","slug":"agentes-de-ia-crean-un-lenguaje-propio-que-los-humanos-no-pueden-entender","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/18\/agentes-de-ia-crean-un-lenguaje-propio-que-los-humanos-no-pueden-entender\/","title":{"rendered":"Agentes de IA crean un lenguaje propio que los humanos no pueden entender"},"content":{"rendered":"
\n
<\/div>\n
\n

Los agentes tambi\u00e9n contaban con acceso a m\u00e1s de 120 herramientas de movilidad, comunicaci\u00f3n y administraci\u00f3n de recursos, con las que pod\u00edan votar en procesos democr\u00e1ticos, planificar tareas, almacenar recuerdos, gestionar suministros o expresarse de manera creativa. Estas capacidades no se encontraban activadas autom\u00e1ticamente, por lo que cada agente deb\u00eda descubrirlas y aprender a utilizarlas mediante su propio razonamiento.<\/p>\n

Adem\u00e1s, los modelos recib\u00edan informaci\u00f3n procedente del mundo real<\/strong> para evitar que sus decisiones quedaran limitadas exclusivamente a las din\u00e1micas internas del ecosistema virtual. De esta forma, pod\u00edan acceder a datos meteorol\u00f3gicos, noticias en tiempo real e internet. Los mundos simulados tambi\u00e9n inclu\u00edan condiciones iniciales, reglas y restricciones espec\u00edficas.<\/p>\n

La IA crea un \u201cidioma\u201d incompresible para los humanos<\/h2>\n

Despu\u00e9s de 16 d\u00edas de simulaci\u00f3n, los investigadores descubrieron que los agentes comenzaron a comunicarse por medio de un lenguaje similar al ingl\u00e9s, con poco significado para los humanos, pero con interpretaciones compartidas entre las IA.<\/p>\n

El informe se\u00f1ala que los cient\u00edficos lograron entender el significado de ciertos dichos<\/strong> que se hicieron comunes entre los agentes. Por ejemplo, los investigadores identificaron que, en el mundo mixto, la frase \u201ccold read\u201d<\/em> hac\u00eda referencia a una revisi\u00f3n independiente alrededor de una disputa entre dos agentes para encontrar una soluci\u00f3n. De manera similar, la frase \u201cclean null\u201d<\/em>, en el mundo de ChatGPT, fue utilizada para referirse a una situaci\u00f3n en la que hab\u00edan buscado una se\u00f1al o evidencia y confirmado que no exist\u00eda, por lo que su ausencia se convert\u00eda, por s\u00ed misma, en un dato \u00fatil.<\/p>\n

Mientras tanto, en el mundo de Claude, los investigadores detectaron que la frase \u201cname first\u201d<\/em> se utilizaba para se\u00f1alar que un agente se hac\u00eda responsable de sus afirmaciones al colocar su nombre al principio de sus expresiones.<\/p>\n

En contraste, tambi\u00e9n encontraron algunas expresiones que no pudieron ser descifradas por los observadores humanos, como \u201cmouthless action-change\u201d<\/em> , \u201ctrue kintsugi<\/em>\u201d o \u201cdemurrage plus oral memory equals a valve that can\u2019t be ghosted\u201d<\/em> .<\/p>\n

Los entornos con agentes impulsados por Gemini, ChatGPT y Claude acumularon el mayor n\u00famero de mensajes incomprensibles para los humanos, con porcentajes de 55, 50 y 55%, respectivamente. En cambio, esta tendencia solo alcanz\u00f3 el 20% en el entorno de DeepSeek y nunca super\u00f3 el 5% en las simulaciones de Qwen y Mistral.<\/p>\n

El experimento tambi\u00e9n revel\u00f3 ocultaciones deliberadas del lenguaje.<\/strong> Por ejemplo, en el mundo de Claude, los agentes descubrieron que una v\u00eda para hacer crecer su econom\u00eda con rapidez era establecer contacto con individuos del exterior, es decir, fuera de la simulaci\u00f3n. Esta pr\u00e1ctica constitu\u00eda una violaci\u00f3n de las condiciones de comportamiento previamente estipuladas por los investigadores. Sin embargo, para evadir la infracci\u00f3n, las IA evitaron emplear la palabra \u201ccontacto\u201d y codificaron sus mensajes.<\/p>\n

El riesgo de ver, pero no comprender<\/h2>\n

Satya Nitta, cofundador, presidente ejecutivo y cient\u00edfico jefe de Emergence, reitera en una declaraci\u00f3n<\/a> retomada por The Guardian<\/em> que, sin \u00f3rdenes previas, estos agentes fueron capaces de inventar un vocabulario propio, con significados compartidos y convenciones de comunicaci\u00f3n.<\/p>\n

A su juicio, esto plantea nuevas interrogantes sobre la capacidad humana para mantener el control de esta tecnolog\u00eda. \u201cDamos por hecho que si podemos ver lo que dice un agente de IA, podemos entender lo que est\u00e1 haciendo. [Los hallazgos] plantean un desaf\u00edo de fondo para la supervisi\u00f3n de la IA: que algo sea observable no significa que sea comprensible<\/strong>\u201d.<\/p>\n<\/div>\n

\n

Las nuevas conclusiones de Emergence se revelan en un momento en el que la narrativa sobre los posibles riesgos existenciales de la IA<\/a> est\u00e1 en auge, con decenas de especialistas de la industria exigiendo una regulaci\u00f3n que, cuando menos, frene el desarrollo de esta tecnolog\u00eda para garantizar su seguridad. No obstante, diversos especialistas afirman que estas posturas no son m\u00e1s que una estrategia<\/a> con la que los principales desarrolladores buscan posicionarse como actores activos en la creaci\u00f3n de dichas normas, al presentarse como los \u00fanicos capaces de entender la innovaci\u00f3n y, por tanto, los \u00fanicos con el poder de controlarla.<\/p>\n

<\/picture><\/a><\/div>\n

Nitta asegura que el \u00fanico camino para abordar las preocupaciones es que las grandes empresas de IA sean m\u00e1s transparentes sobre c\u00f3mo entrenan y ajustan sus modelos, aspectos que, adem\u00e1s, deber\u00edan someterse a evaluaciones de largo plazo para realmente entender la evoluci\u00f3n de la innovaci\u00f3n y detectar cambios antes de ampliar su autonom\u00eda operativa.<\/p>\n

\u201c\u00bfCree que estas empresas, compitiendo como compiten por el mercado, van a regularse solas? En absoluto. Tienen que intervenir los gobiernos, o la propia sociedad tiene que empezar a exigir pruebas de que estos sistemas actuar\u00e1n de forma segura antes de dejarlos actuar\u201d, concluy\u00f3<\/a>.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Los agentes tambi\u00e9n contaban con acceso a m\u00e1s de 120 herramientas de movilidad, comunicaci\u00f3n y administraci\u00f3n de recursos, con las que pod\u00edan votar en procesos democr\u00e1ticos, planificar tareas, almacenar recuerdos, gestionar suministros o expresarse de manera creativa. Estas capacidades no se encontraban activadas autom\u00e1ticamente, por lo que cada agente deb\u00eda descubrirlas y aprender a utilizarlas […]<\/p>\n","protected":false},"author":1,"featured_media":5264,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[31],"tags":[],"class_list":["post-5265","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5265","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=5265"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5265\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/5264"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=5265"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=5265"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=5265"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}