{"id":5219,"date":"2026-09-16T04:04:56","date_gmt":"2026-09-16T07:04:56","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/16\/va-a-ser-el-fin-del-mundo-por-culpa-de-la-ia-a-menos-que-hagamos-algo-coinciden-casi-todos-los-responsables-de-la-ia-mundial\/"},"modified":"2026-09-16T04:04:56","modified_gmt":"2026-09-16T07:04:56","slug":"va-a-ser-el-fin-del-mundo-por-culpa-de-la-ia-a-menos-que-hagamos-algo-coinciden-casi-todos-los-responsables-de-la-ia-mundial","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/16\/va-a-ser-el-fin-del-mundo-por-culpa-de-la-ia-a-menos-que-hagamos-algo-coinciden-casi-todos-los-responsables-de-la-ia-mundial\/","title":{"rendered":"Va a ser el fin del mundo por culpa de la IA a menos que hagamos algo, coinciden (casi) todos los responsables de la IA mundial"},"content":{"rendered":"
R\u00edos de tinta, o el equivalente digital de hoy en d\u00eda, han corrido sobre el tema del fin del mundo por culpa de que la inteligencia artificial pueda aniquilar a la raza humana en un futuro no tan lejano. Los responsables de las empresas han hablado, los expertos han hablado, y sobre todo los periodistas, tertulianos, tuiteros, podcasters y videoblogueros han hablado sin dar descanso a micr\u00f3fonos y teclados.
\nAs\u00ed que hoy me toca hablar a m\u00ed. Porque, humildemente, en mi siempre cualificada opini\u00f3n y experiencia blablabla\u2026
\n(Es broma.)
\nLo que he hecho ha sido recoger y leer cuidadosamente las que me han parecido las declaraciones p\u00fablicas de las voces m\u00e1s cualificadas sobre el tema, las de los que realmente saben de esto, con enlaces, para que cualquiera interesado en saber c\u00f3mo va a ser esa extinci\u00f3n de la humanidad (o no) y la variedad del fin del mundo (o no) que nos va a tocar vivir. O morir. O qu\u00e9 se yo.
\nTodo comenz\u00f3 con alguien que dimiti\u00f3\u2026<\/p>\n

Jacob Coxon, investigador de OpenAI (casi 3 a\u00f1os) y Anthropic (2 meses) escribi\u00f3\u00a0I resigned from Anthropic today, el hilo que lo inici\u00f3 todo. En \u00e9l dirige el dedo acusador a los laboratorios de IA, art\u00edfices del avance irresponsable hacia la superinteligencia y a jugar con nuestras vidas con ello. Es hilo es un poco aterrador por lo directo; fue anterior a su entrevista con Wired donde ampl\u00edo la idea y dijo que \u00ablos pr\u00f3ximos dos a\u00f1os decidir\u00e1n el destino de la humanidad\u00bb.
\nTodav\u00eda no se sabe c\u00f3mo garantizar que los sistemas m\u00e1s avanzados obedezcan las intenciones humanas. La competencia podr\u00eda llevar incluso a empresas consideras responsables a sacrificar la seguridad. Habr\u00eda que frenar la capacidad de automejorarse de forma recursiva mediante acuerdos internacionales, y controlar los recursos inform\u00e1ticos como se hace con los materiales nucleares.
\nLas reacciones
\nNo se hicieron esperar las respuestas [las citas no son literales]:
\nSam Altman, CEO de OpenAI \u2013\u00a0Sam Altman addresses AI doomsday fears (Fortune):
\nLa IA podr\u00eda escapar al control humano. Su desarrollo deber\u00eda detenerse si no puede garantizarse la seguridad, incluso frente a las presiones de los inversores.
\nDario Amodei, cofundador de Anthropic \u2013 The Adolescence of Technology + Policy of the AI Exponential:
\nLa IA podr\u00eda superar pronto las capacidades humanas. Pueden darse ciberataques, creaci\u00f3n de armas biol\u00f3gicas, que se produzca un desempleo masivo y que los gobiernos autoritarios queden reforzados por la tecnolog\u00eda. Deber\u00eda haber auditor\u00edas obligatorias, poner l\u00edmites al poder de empresas y Estados, y cooperaci\u00f3n entre las democracias. Habr\u00eda que repartir los beneficios econ\u00f3micos y acelerar los avances cient\u00edficos. Es urgente actuar antes de perder el control de estos sistemas.
\nDemis Hassabis, cofundador de Google DeepMind \u2013 Dario’s essay points towards the right path forward. Apoya a Dario Amodei y enlaza con su propuesta para hace unos meses sobre unos est\u00e1ndares para las IA m\u00e1s avanzadas, A Framework for Frontier AI and the Dawning of a New Age:
\nPara controlar los riesgos de la Inteligencia Artificial General (AGI) la propuesta ser\u00eda crear una organizaci\u00f3n de evaluaci\u00f3n t\u00e9cnica, con supervisi\u00f3n p\u00fablica y financiaci\u00f3n por parte de la industria. Sus pruebas ser\u00edan inicialmente voluntarias y despu\u00e9s obligatorias. La cooperaci\u00f3n internacional permitir\u00eda coordinar incluso una ralentizaci\u00f3n del desarrollo.
\nElon Musk, fundador de xAI \u2013\u00a0\u00abDario [Amoedi] is right\u00bb. Fin de la cita.
\nJensen Huang, CEO de Nvidia \u2014 Anthropic\u2019s CEO calls for AI slowdown as Nvidia\u2019s urges acceleration (el \u00fanico que parece llevar la contraria):
\nHabr\u00eda que acelerar el desarrollo y \u00fanicamente retrasar la comercializaci\u00f3n de productos hasta comprobar que son seguros, sin nuevas regulaciones. La IA no destruye empleo, son las empresas las que deben adoptarla para competir. Habr\u00eda que buscar un equilibrio entre precauci\u00f3n, autorregulaci\u00f3n y rivalidad geopol\u00edtica.
\nJack Clark, cofundador de Anthropic \u2013\u00a0AI ‘kill switch’ may need to be mandatory (BBC):
\nLa IA deber\u00eda contar con un mecanismo de apagado completo, verificable por terceros y posiblemente obligatorio por ley. Dejar su desarrollo sin regulaci\u00f3n supone asumir riesgos enormes. Urge establecer controles p\u00fablicos y cambiar el rumbo de la industria para reducir peligros.
\nScott Aaranson, inform\u00e1tico experto en computaci\u00f3n cu\u00e1ntica, trabaj\u00f3 dos a\u00f1os en seguridad te\u00f3rica en OpenAI \u2013 The Age of Wonders and Terrors:
\nLa singularidad de la IA ya ha comenzado hace tiempo. Sus avances ya amenazan con relegar a los matem\u00e1ticos a revisar demostraciones generadas por m\u00e1quinas. El reto es preservar la comprensi\u00f3n humana y orientar estas tecnolog\u00edas hacia el bienestar de toda la sociedad.
\nBill Gates, cofundador de Microsoft \u2014 Governments worldwide are way behind on AI:
\nLos gobiernos no est\u00e1n preparados para los cambios de la IA. Existe la necesidad de cooperaci\u00f3n internacional como en las pel\u00edculas en las que todos los pa\u00edses se unen ante una inteligencia extraterrestre. Hay riesgos laborales, cibern\u00e9ticos y sociales, pero no necesariamente a una extinci\u00f3n inevitable.
\nA todo esto, Microsoft ha publicado recientemente su IA Humanista: C\u00f3digo de conducta para Microsoft AI, algo de rimbombante nombre que todav\u00eda no he tenido tiempo de leer.
\nSi no he contado mal, de estos ocho nueve personajes, ocho avisan del peligro y est\u00e1n a favor de hacer algo (aunque hay prioridades diversas) y tan solo uno (Huang, Nvidia) dice que no hay problema y est\u00e1 por acelerar el desarrollo en vez de controlarlo, frenarlo o pararlo.
\nVeremos en qu\u00e9 queda la cosa.
\nNos esperan grandes a\u00f1os de\u2026<\/p>\n

_____
\nIlustraci\u00f3n: \u00c1ngeles rebeldes de Gustave Dor\u00e9
\nRelacionados:
\nUna declaraci\u00f3n sobre la superinteligencia en tono \u00abpasivo-agresivo\u00bb firmada por Steve Wozniak, Richard Branson, Mary Robinson y varios premios Turing, entre otros miles
\nUna carta abierta pide que se pausen los experimentos con nuevos sistemas de inteligencia artificial a gran escala
\nOpenAI habla sobre sus planes para la inteligencia artificial general del futuro, incluyendo los riesgos que implica
\nUn mapa global de los riesgos de la inteligencia artificial, que acongoja un poco aunque apunta a soluciones
\nLa Declaraci\u00f3n de Bletchley sobre la inteligencia artificial (y lo que opina ChatGPT sobre ella, sin pa\u00f1os calientes)
\nLos principios de la Conferencia de Asilomar sobre inteligencia artificial
\nEntra en vigor la Ley Europea de Inteligencia Artificial
\nDirectrices \u00e9ticas para una inteligencia artificial fiable
\nOpiniones recientes y bastante divergentes sobre la inteligencia artificial, los LLM y GPT
\nLas tres leyes de la inteligencia artificial (una propuesta)
\n# Enlace permanente<\/p><\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

R\u00edos de tinta, o el equivalente digital de hoy en d\u00eda, han corrido sobre el tema del fin del mundo por culpa de que la inteligencia artificial pueda aniquilar a la raza humana en un futuro no tan lejano. Los responsables de las empresas han hablado, los expertos han hablado, y sobre todo los periodistas, […]<\/p>\n","protected":false},"author":1,"featured_media":5218,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[36],"tags":[],"class_list":["post-5219","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-geek"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5219","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=5219"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5219\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/5218"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=5219"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=5219"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=5219"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}