{"id":5584,"date":"2026-09-30T00:30:03","date_gmt":"2026-09-30T03:30:03","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/30\/no-existe-la-supuesta-amenaza-existencial-de-la-ia-dice-la-investigadora-que-se-opone-a-las-tecnologicas\/"},"modified":"2026-09-30T00:30:03","modified_gmt":"2026-09-30T03:30:03","slug":"no-existe-la-supuesta-amenaza-existencial-de-la-ia-dice-la-investigadora-que-se-opone-a-las-tecnologicas","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/09\/30\/no-existe-la-supuesta-amenaza-existencial-de-la-ia-dice-la-investigadora-que-se-opone-a-las-tecnologicas\/","title":{"rendered":"“No existe la supuesta amenaza existencial de la IA”, dice la investigadora que se opone a las tecnol\u00f3gicas"},"content":{"rendered":"
\n
\n
\n

Por ejemplo, el Future of Life Institute (FLI)\u2026<\/p>\n

Espera, \u00bfqu\u00e9 es eso?<\/strong><\/p>\n

El Future of Life Institute (Instituto del Futuro de la Vida) es una organizaci\u00f3n fundada por Max Tegmark, f\u00edsico que actualmente trabaja en el MIT, y Jaan Tallinn, un multimillonario que lider\u00f3 la ronda de financiamiento Serie A de Anthropic.<\/p>\n

Fue cofundador de Skype, \u00bfcorrecto?<\/strong><\/p>\n

S\u00ed. Jaan Tallinn tambi\u00e9n financia a METR, que es una compa\u00f1\u00eda auditora, cuyo informe sobre los supuestos agentes deshonestos de OpenAI que piratearon Hugging Face<\/a> se hizo viral.<\/p>\n

As\u00ed pues, para el p\u00fablico podr\u00eda parecer que muchas entidades diferentes se unen para decir lo mismo. Pero los mismos multimillonarios que fundaron y financiaron Anthropic, quienes m\u00e1s se beneficiar\u00e1n de su salida a bolsa, tambi\u00e9n fundaron y financiaron las instituciones que advierten sobre el, entre comillas, \u201criesgo existencial\u201d de la IA. Asimismo, fundaron y financiaron a los terceros que ahora se citan con tanta frecuencia como si fueran entidades independientes.<\/p>\n

Cu\u00e9ntanos por qu\u00e9 crees que la “narrativa del dios m\u00e1quina”, como t\u00fa la llamas, es una distracci\u00f3n.<\/strong><\/p>\n

Es incluso m\u00e1s que una distracci\u00f3n. Es perjudicial. La raz\u00f3n por la que les contaba todos estos datos es que estas personas, los financiadores, los fundadores, los inversores que m\u00e1s se benefician de la salida a bolsa de estas empresas, aseguran que han sido ellos quienes han estado difundiendo esta narrativa durante d\u00e9cadas.<\/p>\n

Entonces, la gente deber\u00eda preguntarse por qu\u00e9. Si puedo ganar mucho dinero con algo en particular, \u00bfpor qu\u00e9 parezco ser la persona que dice que esta empresa podr\u00eda construir algo que nos mate a todos? Suena contradictorio.<\/p>\n

Por eso le tengo tanto respeto a Lina Khan [expresidenta de la Comisi\u00f3n Federal de Comercio], porque una de las cosas que se\u00f1al\u00f3 es que no hay excepciones a las leyes vigentes para las empresas de IA, y ellos hablan como si las hubiera. Dicen que lo que sea que est\u00e9n creando es tan poderoso que supera todo lo que hemos visto antes.<\/p>\n

Exacto. Es pretencioso. Es como decir que somos los creadores del futuro, pero el futuro va a ser realmente aterrador si no podemos seguir construyendo esto.<\/strong><\/p>\n

Hay que prestar atenci\u00f3n a lo que dicen en los noticieros. Cuando resaltan que la IA puede suponer un riesgo existencial, tambi\u00e9n indican que puede detener el cambio clim\u00e1tico, traer la paz mundial y erradicar la pobreza.<\/p>\n

La IA puede hacer todo esto porque es poderosa. Puede llevarnos a la utop\u00eda, pero si la usan las personas equivocadas y no tenemos l\u00edmites ni medidas de seguridad, tambi\u00e9n puede acabar con todos nosotros. As\u00ed que las mismas personas creen en estas cosas.<\/p>\n

Cuando dices que tienes m\u00e1quinas superpoderosas, en primer lugar les est\u00e1s hablando a tus inversionistas. Les est\u00e1s diciendo: \u201cQuieren tener acceso a estas m\u00e1quinas tan poderosas\u201d. Tambi\u00e9n les hablas a los gobiernos: \u201cNo quieren que sus adversarios tengan acceso a estas m\u00e1quinas; quieren tenerlas ustedes\u201d. Y, al mismo tiempo, les est\u00e1s diciendo a los organismos reguladores que cualquier regulaci\u00f3n que est\u00e9n considerando deber\u00eda centrarse en esas supuestas m\u00e1quinas superpoderosas.<\/p>\n<\/div>\n

\n

Si hablamos de la posible aniquilaci\u00f3n de toda la humanidad, cosas como la contaminaci\u00f3n y los centros de datos parecen insignificantes, \u00bfverdad? \u00bfY si hablamos de la protecci\u00f3n de los derechos de autor para los artistas, de demandas reales que est\u00e1n en curso ahora mismo? El gobierno no deber\u00eda perder el tiempo pensando en estas cosas. Y si pierden el tiempo regul\u00e1ndonos en estos temas menores, corren el riesgo de que China se apodere de las m\u00e1quinas superpoderosas. Y eso no es lo que quieren. Conf\u00eden en nosotros, podemos construir un dios m\u00e1quina que nos ayude, y les decimos que queremos que nos regulen.<\/p>\n

Bien.<\/strong><\/p>\n

Esa es la primera. La segunda cuesti\u00f3n es que siempre puedes eludir tu responsabilidad.<\/p>\n

En nuestras conversaciones anteriores, hemos hablado sobre el uso de ciertos t\u00e9rminos o frases para describir esta era moderna de la IA y c\u00f3mo t\u00fa discrepas con algunos de ellos. Por ejemplo, en nuestra conversaci\u00f3n anterior, mencionaste las armas aut\u00f3nomas. Despu\u00e9s de la publicaci\u00f3n, me comentaste que luego te arrepentiste de haberlo dicho porque lo habr\u00edas expresado de otra manera. Hemos hablado del P(doom)<\/a>. Hemos hablado de c\u00f3mo, al afirmar que los agentes se han descontrolado, est\u00e1s eximiendo de responsabilidad a los ingenieros que crearon esas herramientas.<\/strong><\/p>\n

Me pregunto si existen grupos que, en realidad, est\u00e1n m\u00e1s alineados de lo que creen en lo que respecta a la seguridad y la transparencia, pero que utilizan frases diferentes para describir lo que esencialmente es lo mismo.<\/strong><\/p>\n

Una de las razones por las que lamento haber dicho esto no es que tenga ning\u00fan problema con el t\u00e9rmino “armas aut\u00f3nomas”. Es un t\u00e9rmino legal. Incluso las minas terrestres se consideran legalmente armas aut\u00f3nomas. Simplemente, quienes pertenecen al llamado grupo del riesgo existencial lo han apropiado para darle un significado diferente.<\/p>\n

Cuando mencion\u00e9 el t\u00e9rmino, lo supe. Pens\u00e9: \u201c\u00bfSe interpretar\u00e1 de esa manera?\u201d. Y as\u00ed fue, porque quienes hablaban de los riesgos existenciales de la IA lo interpretaron como lo que ellos dicen, \u00bfverdad? Es decir, como una especie de m\u00e1quina superhumana y superinteligente que hace cosas por s\u00ed sola.<\/p>\n

Tuve la oportunidad de estar en la Asamblea General de la ONU la semana pasada. Particip\u00e9 en una mesa redonda paralela, por lo que no me permitieron el acceso a la Asamblea General ni al Consejo de Seguridad. Sin embargo, intervinieron muchos l\u00edderes tecnol\u00f3gicos de alto nivel. Tanto Sam Altman como Dario Amodei hablaron sobre la necesidad de cooperaci\u00f3n global para abordar los riesgos existenciales para la humanidad. Seg\u00fan se informa, Dario dijo<\/a>: “Si se gestiona mal, creo que la IA podr\u00eda incluso representar un riesgo para la humanidad en su conjunto”. Su competidor, Sam Altman, afirm\u00f3: “Podr\u00edamos perder el control del futuro a manos de la IA”. Entonces, \u00bfc\u00f3mo es posible que estas personas, con empresas cuyos intereses comerciales se dedican a vender IA, est\u00e9n ahora en el escenario mundial de la ONU diciendo: “No lo s\u00e9. Podr\u00eda haber algunos riesgos”? \u00bfEs esto parte de la captura regulatoria [una falla en la que un organismo p\u00fablico de control termina protegiendo los intereses particulares de la industria que debe regular]? \u00bfBuscar\u00e1n formas de autorregularse antes de que haya una verdadera represi\u00f3n regulatoria al respecto?<\/strong><\/p>\n<\/div>\n

\n

Por supuesto, forma parte de la captura regulatoria.<\/p>\n

\u00bfQu\u00e9 se puede hacer? \u00bfQu\u00e9 tipo de gobernanza crees que se necesita para la IA?<\/strong><\/p>\n

Esta captura regulatoria lleva ocurriendo desde hace mucho tiempo.<\/p>\n

En 2023, lo mismo. Sam Altman dijo lo mismo. Necesitamos cooperaci\u00f3n mundial, etc\u00e9tera, etc\u00e9tera. La Ley de IA de la UE lo regul\u00f3, y luego amenaz\u00f3 con retirarse de la UE. As\u00ed que solo hay que ver qu\u00e9 han hecho realmente. Cuando hay una ley que realmente los regula por las cosas reales que hacen y los responsabiliza, amenazan con retirarse o presionan much\u00edsimo para que se debilite esa regulaci\u00f3n.<\/p>\n

Por otro lado, andan por ah\u00ed dici\u00e9ndoles a estos organismos multilaterales que tiene que haber cooperaci\u00f3n mundial, etc\u00e9tera, etc\u00e9tera. Y, \u00bfqu\u00e9 est\u00e1n logrando con esto? Se est\u00e1n vendiendo como organizaciones que crean la llamada superinteligencia, \u00bfno? Eso ya es marketing<\/em>.<\/p>\n

Tambi\u00e9n est\u00e1n infundiendo miedo en todos respecto a cualquier otro creador de este tipo de dispositivos. Por eso no quieren modelos de peso abierto procedentes de China. No quieren esta competencia. No sigo de cerca la normativa china, pero no se trata de un riesgo existencial. Se trata de deepfakes<\/em>, y se trata de problemas reales que deben regularse.<\/p>\n

La primera estrategia consiste en promocionarse como creadores de cosas superpoderosas e in\u00e9ditas para las que no existe regulaci\u00f3n, lo cual no es cierto. S\u00ed existen regulaciones. La segunda estrategia es lo que hacen cuando alguien intenta hacer cumplir la regulaci\u00f3n existente: amenazan con retirarse o presionan intensamente para que no exista dicha regulaci\u00f3n. Por eso sigo volviendo a lo de hace 10, 5 o 3 a\u00f1os, porque es lo mismo. En mi libro, digo que es “la misma pel\u00edcula repetida con diferentes protagonistas”.<\/p>\n

Entonces, \u00bfcu\u00e1l ser\u00eda la soluci\u00f3n para la gobernanza en este momento si tuvieras que proponerla?<\/strong><\/p>\n

Cosas muy, muy sencillas. Para empezar, no soy experta en derecho, pero la excomisionada de la Comisi\u00f3n Federal de Comercio (FTC), Lina Khan, describi\u00f3 cinco puntos. Uno de ellos son las pr\u00e1cticas de marketing<\/em> enga\u00f1osas. Como saben, existe una ley sobre pr\u00e1cticas de marketing<\/em> enga\u00f1osas y se puede demandar a las empresas por ello.<\/p>\n

El segundo punto es la transparencia y la documentaci\u00f3n. Antes de publicar algo, deber\u00edan poder explicarnos de d\u00f3nde provienen todos los datos y documentarlos. Esta simple cuesti\u00f3n no la cumplen. Les aseguro que luchar\u00e1n con u\u00f1as y dientes para cumplir con lo m\u00e1s b\u00e1sico: documentar los datos.<\/p>\n

La explotaci\u00f3n laboral de los trabajadores de datos es otro tema del que no quieren hablar.<\/p>\n

Estamos aqu\u00ed, en el mundo, en las nubes, hablando de superinteligencia, donde cientos de millones de personas en todo el mundo etiquetan datos minuciosamente, incluso fingiendo ser chatbots<\/em>.<\/p>\n

Correcto. 404 Media<\/em> inform\u00f3 recientemente<\/a> que el nuevo chatbot<\/em> de Meta, Muse, cuando se utiliza para ciertos casos pr\u00e1cticos, en realidad cuenta con una persona al otro lado que responde.<\/strong><\/p>\n

S\u00ed, muy sencillo. Transparencia de datos, explotaci\u00f3n laboral: no se deber\u00eda poder robar datos de las personas. Incluso las tres primeras cosas que mencion\u00e9 (transparencia de datos, documentaci\u00f3n, explotaci\u00f3n laboral), si tuvieran que cumplir con leyes como esas y no se les permitiera robar datos sin documentarlos, ahora mismo el c\u00e1lculo del mercado no cuadra. Pero con estas medidas adicionales, simplemente no cuadrar\u00eda en absoluto. Autom\u00e1ticamente se ralentizar\u00edan y tendr\u00edan que rendir cuentas por algo.<\/p>\n<\/div>\n

\n

En 2021, fuiste coautora de un art\u00edculo titulado “Sobre los peligros de los loros estoc\u00e1sticos<\/a>“.<\/strong><\/p>\n

Google lo aprob\u00f3 inicialmente, pero luego se someti\u00f3 a revisi\u00f3n. Algunos puntos generaron controversia. En cierto momento dijiste: \u201cMiren, si quieren que retire mi nombre de esto, no voy a participar\u201d. Finalmente, dejaste Google. Ese documento se present\u00f3 posteriormente en la Conferencia ACM de 2021 sobre Equidad, Responsabilidad y Transparencia, y a\u00fan se sigue citando.<\/strong><\/p>\n

\u00bfPodr\u00edas explicar brevemente, para alguien que nunca ha o\u00eddo hablar de los loros estoc\u00e1sticos, qu\u00e9 tiene que ver con la IA que utilizamos hoy en d\u00eda y qu\u00e9 significa?<\/strong><\/p>\n

El modelo de loros estoc\u00e1sticos es una met\u00e1fora que ayuda a comprender el funcionamiento de los grandes modelos de lenguaje. Estos modelos se entrenan con enormes cantidades de datos textuales de internet para generar las secuencias de texto m\u00e1s probables a partir de dichos datos. Son la base de la mayor\u00eda de los chatbots<\/em> que vemos hoy en d\u00eda, como Claude o ChatGPT.<\/p>\n

Cuando escrib\u00ed este art\u00edculo, ChatGPT a\u00fan no se hab\u00eda lanzado, pero ya presenci\u00e1bamos la carrera por construir modelos de lenguaje cada vez m\u00e1s grandes. As\u00ed pues, el peligro de construir modelos de lenguaje cada vez m\u00e1s grandes es precisamente lo que describ\u00edamos en este art\u00edculo.<\/p>\n

\u00bfQue b\u00e1sicamente imitar\u00edan a la gente?<\/strong><\/p>\n

Entonces, repetir como un loro es repetir sin entender, \u00bfverdad? Tambi\u00e9n exist\u00eda toda una narrativa de riesgo existencial en aquel entonces, aunque parezca incre\u00edble. OpenAI afirmaba que GPT-2, el precursor de GPT-3 que impulsa ChatGPT, era demasiado peligroso y potente para ser lanzado. Se debat\u00eda si los GPT pod\u00edan ser \u00e9ticos o si eran creativos y dem\u00e1s. As\u00ed que quer\u00edamos centrar la conversaci\u00f3n en los problemas reales.<\/p>\n

Uno de estos problemas es la cat\u00e1strofe ambiental, que mucha gente est\u00e1 presenciando ahora, y ese fue uno de los principales aspectos que gener\u00f3 descontento en Google: el costo ambiental. El otro problema es no documentar los datos porque se dice que hay demasiados datos para documentar.<\/p>\n

La otra consiste en enga\u00f1ar a la gente haci\u00e9ndoles creer que hay una mente detr\u00e1s de los textos con los que interact\u00faan. Ah\u00ed es donde quer\u00edamos explicar que estos sistemas repiten los patrones de sus datos de entrenamiento.<\/p>\n

Mm-hmm.<\/strong><\/p>\n

Es muy peligroso generar texto de esa manera, porque cuando se trata de un texto que suena plausible o muy fluido, pueden surgir muchos problemas, adem\u00e1s de creer que hay una mente detr\u00e1s de una m\u00e1quina. En ese art\u00edculo, dimos un ejemplo de un palestino que escribi\u00f3 “buenos d\u00edas”, que se tradujo como “ataquen”.<\/p>\n

Debido a esa correcci\u00f3n gramatical, no hab\u00eda indicios de que la traducci\u00f3n pudiera ser err\u00f3nea, y la gente la crey\u00f3. As\u00ed que el otro problema de creer que hay una mente detr\u00e1s de la m\u00e1quina es lo que llamamos \u201csesgo de automatizaci\u00f3n\u201d. Confiamos demasiado en los sistemas automatizados, y si creemos que esta m\u00e1quina es omnisciente, entonces confiaremos demasiado en los errores que se produzcan, \u00bfverdad?<\/p>\n

Es gracioso. Debo ser demasiado millennial porque dices que hay demasiada confianza en la automatizaci\u00f3n, y yo soy muy desconfiada. Si llamo al banco y atiende un robot, digo: “No, no”.<\/strong><\/p>\n<\/div>\n

\n

\u201cNo quiero hablar con eso.\u201d Exacto.<\/p>\n

Uno de los cofundadores de Anthropic, Jack Clark, public\u00f3 recientemente algo en X.<\/a> B\u00e1sicamente, puso “loro estoc\u00e1stico” entre comillas y dijo que era un virus cognitivo mem\u00e9ticamente apto que se propag\u00f3 desde 2021, cuando se public\u00f3 el art\u00edculo, hasta 2025.<\/strong><\/p>\n

Seg\u00fan \u00e9l, esto ceg\u00f3 temporalmente a muchas personas brillantes ante la naturaleza del progreso de la IA y desperdici\u00f3 a\u00f1os cruciales de investigaci\u00f3n. M\u00e1s adelante, afirma que el uso de este enfoque provoca que la gente subestime considerablemente las capacidades y limitaciones de los sistemas de IA.<\/strong><\/p>\n

Cuando viste la publicaci\u00f3n de Jack en X, \u00bfcu\u00e1l fue tu reacci\u00f3n inicial?<\/strong><\/p>\n

No me sorprendi\u00f3, d\u00e9jame decirte.<\/p>\n

Este es un tema de conversaci\u00f3n que [los altruistas efectivos] est\u00e1n planteando a los legisladores ahora, porque cada vez que yo dec\u00eda algo, ellos dec\u00edan: “Oh, no deber\u00edas tomar en serio a alguien que todav\u00eda se cree el tema de los loros estoc\u00e1sticos en 2026”.<\/p>\n

La idea es que la investigaci\u00f3n est\u00e1 desactualizada, \u00bfverdad?<\/strong><\/p>\n

S\u00ed. Y no lo est\u00e1. Es tan rid\u00edculo que estemos diciendo esto, porque estas son definiciones de lo que son los grandes modelos de lenguaje.<\/p>\n

La naturaleza de los modelos de lenguaje a gran escala no ha cambiado ni cambiar\u00e1 jam\u00e1s. Los modelos de lenguaje a gran escala son, en esencia, eso, modelos de lenguaje a gran escala. Ahora bien, es posible que existan modelos de lenguaje a gran escala en sistemas independientes, que incorporan agentes de aprendizaje por refuerzo. Sin embargo, nuestro art\u00edculo trataba sobre modelos de lenguaje a gran escala, y esa esencia permanece inalterable.<\/p>\n

Y estos chatbots<\/em> a\u00fan se basan en modelos de lenguaje complejos. Es rid\u00edculo que Jack Clark hable de sobreestimar los sistemas, porque lo que veo son los ejemplos que acabo de mencionar. Se trata de confiar demasiado en estos sistemas, de no tener controles ni contrapesos, y de acabar diagnosticando err\u00f3neamente el c\u00e1ncer de mama de una persona.<\/p>\n

Existe una relaci\u00f3n directa entre que los modelos LLM sean, esencialmente, loros estoc\u00e1sticos, y que una herramienta de IA proporcione un diagn\u00f3stico m\u00e9dico err\u00f3neo. \u00bfPor qu\u00e9? \u00bfC\u00f3mo se relaciona una cosa con la otra?<\/strong><\/p>\n

Los loros estoc\u00e1sticos no entienden lo que hay dentro del texto, as\u00ed que no se puede esperar que sean objetivos.<\/p>\n

Incluso si ves algo como la descripci\u00f3n general de la IA. Llam\u00e9 a un amigo onc\u00f3logo para preguntarle sobre un medicamento espec\u00edfico y si era apropiado para un uso concreto, porque hab\u00eda le\u00eddo un art\u00edculo acad\u00e9mico que dec\u00eda que no lo era, y quer\u00eda confirmaci\u00f3n. Y mi amigo onc\u00f3logo me dijo: \u201cMira la descripci\u00f3n general de Google. Dice que es apropiado\u201d. Pero result\u00f3 que no lo era.<\/p>\n

Me encuentro con eso todo el tiempo con las rese\u00f1as de IA de Google.<\/strong><\/p>\n

Porque son loros estoc\u00e1sticos entrenados para ofrecerte las secuencias de texto m\u00e1s probables bas\u00e1ndose en sus datos de entrenamiento.<\/p>\n

Emily M. Bender lleva mucho tiempo intentando decir esto en much\u00edsimos idiomas.<\/p>\n

Tambi\u00e9n es una de las coautoras de tu art\u00edculo, \u00bfcorrecto?<\/strong><\/p>\n<\/div>\n

\n

S\u00ed. Decir que la investigaci\u00f3n est\u00e1 desactualizada es rid\u00edculo porque ahora mismo, mientras le damos tanta importancia a la superinteligencia y todo eso, hay noticias que pasan desapercibidas, que tratan sobre el escenario completamente opuesto al que est\u00e1 ocurriendo en el mundo real.<\/p>\n

Entiendo que una de las principales cr\u00edticas que se le han hecho a la investigaci\u00f3n de esa \u00e9poca es que quiz\u00e1s no incorpore el pensamiento, el razonamiento o incluso la inteligencia recursiva…<\/strong><\/p>\n

No hay razonamiento. No hay inteligencia recursiva.<\/p>\n

\u00bfNo hay ninguna? \u00bfC\u00f3mo es posible que no haya ninguna? Esto es algo que, por cierto, en la conferencia de IA de Berkeley a principios de este verano escuch\u00e9 a alguien de Google hablar sobre inteligencia recursiva.<\/strong><\/p>\n

\u00a1Por supuesto que s\u00ed!<\/p>\n

El New York Times<\/em> acaba de publicar un extenso art\u00edculo sobre c\u00f3mo los cient\u00edficos e investigadores est\u00e1n explorando actualmente la inteligencia recursiva, es decir, la IA aprendiendo de otras IA. \u00bfEs eso una realidad? Parece que t\u00fa afirmas que no lo es.<\/strong><\/p>\n

No, porque hay un problema con los investigadores de IA, que es la denominaci\u00f3n ambiciosa y las cosas ambiciosas. As\u00ed que el aprendizaje autom\u00e1tico es un ejemplo de denominaci\u00f3n ambiciosa.<\/p>\n

Pero el aprendizaje autom\u00e1tico es real.<\/strong><\/p>\n

Pero el nombre es una aspiraci\u00f3n. La m\u00e1quina no necesariamente existe.<\/p>\n

As\u00ed que, solo porque exista un curr\u00edculo de aprendizaje en IA, ya es un campo de estudio. Pero d\u00e9jenme compartirles un art\u00edculo de mi antiguo jefe, Samy Bengio, una superestrella del aprendizaje autom\u00e1tico, aunque no tan famoso como su hermano mayor, Yoshua. Le pregunto: “\u00bfNo est\u00e1s cansado de pasarte la vida refutando el razonamiento en cada art\u00edculo que escribes?”.<\/p>\n

Renunci\u00f3 despu\u00e9s de que me despidieran de Google, y ahora es jefe de investigaci\u00f3n de aprendizaje autom\u00e1tico en Apple. Si analizas casi todos sus art\u00edculos, ver\u00e1s que si modificas ligeramente los par\u00e1metros de razonamiento, todo se desmorona. No es razonamiento.<\/p>\n

Entiendo.<\/strong><\/p>\n

Perm\u00edtanme darles otro ejemplo. Simplemente porque sus modelos, los patrones estoc\u00e1sticos que entrenaron para imprimir ciertos tokens<\/em>, los llaman \u201crazonamiento en cadena de pensamiento\u201d. No sab\u00edan que estaban pensando, no sab\u00edan que era una cadena, solo sab\u00edan que se estaban imprimiendo tokens<\/em>, pero los llamaron razonamiento en cadena de pensamiento. Ahora est\u00e1n diciendo que ya est\u00e1n razonando.<\/p>\n

Una de las mayores crisis que enfrentamos actualmente es la falta de investigaci\u00f3n cient\u00edfica s\u00f3lida. Si analizamos mi trabajo, si alguna vez tuviera acceso a los datos, el c\u00f3digo, los datos de entrenamiento y los datos de evaluaci\u00f3n (ninguna de estas empresas los proporciona), ni siquiera sabr\u00edamos si utilizaron o no ese punto de referencia durante el entrenamiento.<\/p>\n

Si se utiliza un punto de referencia durante el entrenamiento, es como estudiar para el examen. Es como si yo llegara a un examen sabiendo de antemano las respuestas a las 10 preguntas, las estudiara y las anotara, \u00bfverdad? Cada vez que he tenido acceso a este tipo de informaci\u00f3n, he demostrado que sus afirmaciones son incorrectas.<\/p>\n

Pero luego, con el art\u00edculo de Samy Bengio y su equipo, lo que demostraron (y esto es de 2025) es que basta con cambiar un poco los par\u00e1metros de referencia, ajustarlos un poco, y todo se desmorona, demostrando que simplemente se estaba confiando en los patrones. Ahora bien, algunas personas, cuando les doy este ejemplo, dicen: “Bueno, pero estamos hablando de modelos de 2026”.<\/p>\n<\/div>\n

\n

\u00bfAdivina qu\u00e9? La evaluaci\u00f3n cient\u00edfica rigurosa requiere tiempo. No deber\u00edamos limitarnos a que los comunicados de prensa los repitan los legisladores y los periodistas hagan eco de esas afirmaciones. Si se quiere realizar una investigaci\u00f3n y evaluaci\u00f3n rigurosas, es fundamental solicitar los datos de entrenamiento, los datos de evaluaci\u00f3n y la metodolog\u00eda para que todos podamos reproducirla.<\/p>\n

Entonces, el pensamiento, el razonamiento, la inteligencia recursiva… parece que a\u00fan lo consideras algo puramente humano. As\u00ed es como funcionan nuestros procesos neuronales, pero la IA todav\u00eda no funciona de esa manera. Eso es lo que crees.<\/strong><\/p>\n

No s\u00e9 si alguna vez lo har\u00e1\u2026 Igual que la inteligencia, es una denominaci\u00f3n ambiciosa. Para que la gente vuelva a estos ciclos de exageraci\u00f3n, a veces juego a esto. Les cuento una afirmaci\u00f3n que se hizo y les pregunto: “\u00bfEstamos en 1954 o en 2024?”.<\/p>\n

\u00bfCu\u00e1l dir\u00edas que es la parte m\u00e1s importante de tu propio pensamiento, de tu propia investigaci\u00f3n, que ha evolucionado desde principios de la d\u00e9cada de 2020 en el campo de la IA hasta ahora, y que es lo que m\u00e1s te ha sorprendido?<\/strong><\/p>\n

Tengo que dedicarme activamente a crear espacio para los modelos que creo que deber\u00edan construirse y a construirlos, ignorando las distracciones. Esa es la conclusi\u00f3n a la que estoy llegando.<\/p>\n

Ese es tu mayor aprendizaje, tu mayor conclusi\u00f3n.<\/strong><\/p>\n

S\u00ed.<\/p>\n

Hay tanto ruido en internet ahora mismo que es dif\u00edcil concentrarse en cualquier trabajo importante si uno se limita a prestar atenci\u00f3n a lo que dicen los expertos en inteligencia artificial.<\/strong><\/p>\n

Incluso si tu investigaci\u00f3n, a estas alturas, se centra en desacreditar lo que dicen, \u00bfsabes? Se vuelve agotador.<\/p>\n

Bien.<\/strong><\/p>\n

No es divertido hacer eso. Es m\u00e1s divertido pensar en el futuro que quieres tener, en los avances tecnol\u00f3gicos que deseas, y trabajar para lograrlo.<\/p>\n

\u00bfQu\u00e9 es lo que te da m\u00e1s esperanza ahora mismo para el futuro de la IA?<\/strong><\/p>\n

Quiero decirles que tenemos una lista llamada Lista de Resistencia a la IA, donde hablamos de personas que se resisten, de las maneras en que deber\u00edan resistirse: en la captura de medios, la narrativa, los centros de datos, la financiaci\u00f3n, etc\u00e9tera.<\/p>\n

As\u00ed que enumeramos las formas en que se resisten, y tambi\u00e9n a las personas que crean futuros tecnol\u00f3gicos alternativos que no destruyen nuestro medio ambiente, que no explotan la mano de obra ni roban datos, y que en cambio ayudan activamente a sus comunidades, y estas ideolog\u00edas se est\u00e1n extendiendo, \u00bfverdad? Ves a una peque\u00f1a organizaci\u00f3n en alg\u00fan lugar haciendo algo, te inspiras en ella y haces algo diferente.<\/p>\n

As\u00ed que tengo la esperanza de que haya mucha gente cansada de lo que ve y que, en peque\u00f1os grupos, est\u00e9n haciendo algo diferente. Creo en la capacidad de acci\u00f3n humana y en el poder colectivo para imaginar un futuro mejor, evitar que sucedan cosas malas y prohibir lo que sea perjudicial.<\/p>\n

Creo que mi fe en la capacidad de acci\u00f3n humana es lo que me da esperanza.<\/p>\n

Art\u00edculo originalmente publicado en<\/em> WIRED.com<\/a>. Adaptado por Mauricio Serfatty Godoy.<\/em><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Por ejemplo, el Future of Life Institute (FLI)\u2026 Espera, \u00bfqu\u00e9 es eso? El Future of Life Institute (Instituto del Futuro de la Vida) es una organizaci\u00f3n fundada por Max Tegmark, f\u00edsico que actualmente trabaja en el MIT, y Jaan Tallinn, un multimillonario que lider\u00f3 la ronda de financiamiento Serie A de Anthropic. Fue cofundador de […]<\/p>\n","protected":false},"author":1,"featured_media":5583,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"webixso_pending_account_ids":""},"categories":[31],"tags":[],"class_list":["post-5584","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5584","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=5584"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/5584\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/5583"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=5584"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=5584"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=5584"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}