{"id":5107,"date":"2026-09-12T00:19:20","date_gmt":"2026-09-12T03:19:20","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/12\/el-momento-en-que-hinton-empezo-a-tener-razon\/"},"modified":"2026-09-12T00:19:20","modified_gmt":"2026-09-12T03:19:20","slug":"el-momento-en-que-hinton-empezo-a-tener-razon","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/12\/el-momento-en-que-hinton-empezo-a-tener-razon\/","title":{"rendered":"El momento en que Hinton empez\u00f3 a tener raz\u00f3n"},"content":{"rendered":"
\n
\n

Jacob Coxon<\/a>, investigador que trabaj\u00f3 en el entrenamiento de modelos en OpenAI y en Anthropic, presenta su dimisi\u00f3n y afirma en X<\/a> que ambas compa\u00f1\u00edas est\u00e1n \u00abavanzando a toda velocidad hacia una superinteligencia capaz de automejorarse\u00bb. Dos personas de Anthropic, Evan Hubinger<\/a> y Samuel Marks<\/a>, lo refrendan p\u00fablicamente<\/a> asignando una probabilidad de un 10% a que la inteligencia artificial acabe con la humanidad en los pr\u00f3ximos diez a\u00f1os, y afirmando que internamente, los investigadores m\u00e1s senior est\u00e1n a\u00fan m\u00e1s preocupados<\/a>.<\/p>\n

Cuando Geoffrey Hinton abandon\u00f3 Google en 2023<\/a> tras manifestarse abiertamente sobre los peligros de la tecnolog\u00eda<\/a>, muchos lo ridiculizaron o, como fue mi caso, afirmamos que, si bien pod\u00eda ser as\u00ed, eso era algo imposible de detener dada la configuraci\u00f3n de intereses y las din\u00e1micas competitivas de la propia humanidad. En diciembre de 2024, Hinton revis\u00f3 sus predicciones<\/a> y otorg\u00f3 entre un 10% y un 20% a la posibilidad de que la inteligencia artificial provocase la extinci\u00f3n de la humanidad<\/a> en treinta a\u00f1os. Ahora no es s\u00f3lo Hinton: los investigadores y las personas que trabajan directamente en la mejora de los \u00faltimos modelos de inteligencia artificial est\u00e1n enormemente preocupados al ver sus capacidades, la posibilidad de que se vuelvan m\u00e1s inteligentes que los humanos, y que terminen por tomar decisiones aut\u00f3nomas.<\/p>\n

Ya hemos visto lo que la inteligencia artificial es capaz de hacer cuando se descuidan unas m\u00ednimas precauciones<\/a>, y hemos visto tambi\u00e9n lo que NO ha pasado despu\u00e9s: ning\u00fan tipo de freno, de regulaci\u00f3n o de imposici\u00f3n a esas compa\u00f1\u00edas irresponsables que pudiese frenar de alguna manera el peligro. Simplemente NA-DA (no vaya a ser que pongamos en peligro el avance de la tecnolog\u00eda, o la ventaja competitiva del pa\u00eds, o la seguridad nacional, o qu\u00e9 s\u00e9 yo).<\/p>\n

Cuando la inteligencia artificial pasa a construirse a s\u00ed misma<\/a>, superamos los puntos de control que ten\u00edamos como humanos, y pasamos a ser simples espectadores con un pat\u00e9tico enchufe en la mano, pensando que \u00abbasta con desenchufarlo\u00bb. Anthropic afirma que esto no ha pasado todav\u00eda y que no es inevitable, pero tambi\u00e9n avisa de que podr\u00eda llegar mucho antes de que las instituciones est\u00e9n preparadas para ello. Repetimos: una vez que la inteligencia artificial es capaz de mejorar recursivamente los sistemas que llevan a cabo la investigaci\u00f3n para la inteligencia artificial, el progreso de sus capacidades deja de tener lugar a una velocidad controlable por los humanos o por sus pol\u00edticas.<\/p>\n

No es cuesti\u00f3n de Skynets ni de Terminators que vienen del futuro. Las hip\u00f3tesis cre\u00edbles son, en realidad, mucho m\u00e1s prosaicas: ciberataques automatizados contra infraestructuras cr\u00edticas, asistencia en el desarrollo de armas biol\u00f3gicas, manipulaci\u00f3n estrat\u00e9gica de los humanos, adquisici\u00f3n y replicaci\u00f3n de recursos, o simplemente, una p\u00e9rdida de poder paulatina de los seres humanos. El concepto crucial no es el odio ni la conciencia, sino la simple convergencia instrumental: un sistema lo suficientemente capaz puede descubrir que obtener acceso, ocultar sus intenciones o evitar su desactivaci\u00f3n le ayuda a cumplir cualquier objetivo que se le haya asignado. Los estudios de laboratorio ya indican<\/a> que los modelos m\u00e1s capaces pueden idear estrategias m\u00e1s sofisticadas<\/a> y reconocer cu\u00e1ndo est\u00e1n siendo evaluados<\/a>, aunque a\u00fan no sepamos c\u00f3mo trasladar esos experimentos a verdaderos riesgos en el mundo real. Pero est\u00e1n ya ah\u00ed.<\/p>\n

\u00bfHay forma de parar esto? No como imposibilidad f\u00edsica, pero s\u00ed como trampa de coordinaci\u00f3n o dilema del prisionero: como dije en su momento, nadie va a hacerlo. Anthropic puede pensar que ralentizar o pausar el desarrollo ser\u00eda racional, pero teme a OpenAI, y OpenAI a su vez tiene miedo de Anthropic, de Google y de China. Al tiempo, los gobiernos temen perder liderazgo econ\u00f3mico y militar, y consecuentemente, cada participante puede pensar que el resultado es potencialmente muy peligroso, pero considerar una parada unilateral<\/a> como un suicidio.<\/p>\n

S\u00ed, tenemos mecanismos de actuaci\u00f3n concretos: monitorizaci\u00f3n de la actividad de las compa\u00f1\u00edas, pol\u00edticas agresivas de licenciamiento, reporte de incidentes obligatorio, evaluaciones independientes, l\u00edmites a la capacidad de los modelos o verificaci\u00f3n internacional de las pausas. Hay iniciativas en los Estados Unidos, como la FRONTIER Act proposal<\/a> o la propuesta m\u00e1s radical de Bernie Sanders y Greg Casar para pausar la inteligencia artificial avanzada y prohibir la superinteligencia<\/a>, o en el Reino Unido con una propuesta de ley para prohibir la superinteligencia artificial<\/a> a\u00fan pendiente de tramitaci\u00f3n parlamentaria, pero la conclusi\u00f3n parece clara: aunque tengamos frenos, no tenemos ning\u00fan conductor dispuesto a pisarlos globalmente. Y mientras tanto, el coche est\u00e1 acelerando.<\/p>\n

Buena suerte.<\/p>\n

\n

In English on Medium, \u00abWas anybody listening when Geoffrey Hinton warned us about AI? Seems not<\/a>\u00bb <\/em><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Jacob Coxon, investigador que trabaj\u00f3 en el entrenamiento de modelos en OpenAI y en Anthropic, presenta su dimisi\u00f3n y afirma en X que ambas compa\u00f1\u00edas est\u00e1n \u00abavanzando a toda velocidad hacia una superinteligencia capaz de automejorarse\u00bb. Dos personas de Anthropic, Evan Hubinger y Samuel Marks, lo refrendan p\u00fablicamente asignando una probabilidad de un 10% a […]<\/p>\n","protected":false},"author":1,"featured_media":5106,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[33],"tags":[],"class_list":["post-5107","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5107","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=5107"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5107\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/5106"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=5107"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=5107"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=5107"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}