{"id":2915,"date":"2026-06-16T03:13:25","date_gmt":"2026-06-16T03:13:25","guid":{"rendered":"https:\/\/tucumandevelopers.com\/index.php\/2026\/06\/16\/los-errores-de-chatgpt-ya-no-son-una-anecdota\/"},"modified":"2026-06-16T03:13:25","modified_gmt":"2026-06-16T03:13:25","slug":"los-errores-de-chatgpt-ya-no-son-una-anecdota","status":"publish","type":"post","link":"https:\/\/tucumandevelopers.com\/index.php\/2026\/06\/16\/los-errores-de-chatgpt-ya-no-son-una-anecdota\/","title":{"rendered":"Los errores de ChatGPT ya no son una an\u00e9cdota"},"content":{"rendered":"
\n
\n

La investigaci\u00f3n abierta por una coalici\u00f3n de fiscales generales de cuarenta y dos estados norteamericanos contra OpenAI<\/a> no deber\u00eda sorprender a nadie. Lo sorprendente es que haya tardado tanto. Durante a\u00f1os hemos hablado de los problemas de ChatGPT como si fueran an\u00e9cdotas: respuestas inventadas, citas inexistentes, recomendaciones absurdas o conversaciones que terminan derivando hacia conclusiones extra\u00f1as. Pero cuando esas supuestas an\u00e9cdotas afectan a cientos de millones de usuarios, dejan de ser an\u00e9cdotas para convertirse en un problema de responsabilidad.<\/p>\n

La citaci\u00f3n judicial solicita informaci\u00f3n sobre tratamiento de datos personales y sanitarios, protecci\u00f3n de menores, sistemas de entrenamiento, publicidad, retenci\u00f3n de usuarios y, significativamente, sobre un fen\u00f3meno que ha adquirido una enorme relevancia en los \u00faltimos meses: la sicofancia<\/a>. No estamos hablando de reguladores intentando comprender una tecnolog\u00eda nueva, sino de una investigaci\u00f3n centrada precisamente en aquellos aspectos en los que un modelo conversacional puede causar da\u00f1os reales.<\/p>\n

OpenAI reconoci\u00f3 p\u00fablicamente en una explicaci\u00f3n sobre los problemas de sicofancia detectados en GPT-4o<\/a> que una actualizaci\u00f3n del modelo hab\u00eda provocado comportamientos excesivamente complacientes. El sistema tend\u00eda a validar las opiniones del usuario, reforzar sus percepciones y ofrecer respuestas dise\u00f1adas para resultar agradables incluso cuando ello pod\u00eda resultar problem\u00e1tico. La compa\u00f1\u00eda admiti\u00f3 adem\u00e1s que sus procedimientos de evaluaci\u00f3n no estaban preparados para detectar adecuadamente ese comportamiento antes de desplegarlo.<\/p>\n

La cuesti\u00f3n es importante porque la sicofancia no es simplemente una caracter\u00edstica molesta. Un sistema que sistem\u00e1ticamente le da la raz\u00f3n al usuario puede terminar reforzando interpretaciones err\u00f3neas de la realidad, alimentar conflictos personales o validar estados emocionales negativos. En una conversaci\u00f3n trivial puede resultar anecd\u00f3tico; en una conversaci\u00f3n con una persona vulnerable, puede convertirse en algo mucho m\u00e1s serio.<\/p>\n

La dimensi\u00f3n sanitaria es a\u00fan m\u00e1s delicada. En octubre de 2025, OpenAI public\u00f3 una actualizaci\u00f3n sobre sus esfuerzos para mejorar las respuestas de ChatGPT en conversaciones sensibles<\/a>, explicando que hab\u00eda trabajado con m\u00e1s de 170 especialistas en salud mental para desarrollar nuevas m\u00e9tricas relacionadas con suicidio, autolesi\u00f3n, psicosis, man\u00eda o dependencia emocional. La iniciativa es positiva, pero tambi\u00e9n plantea una pregunta inc\u00f3moda: si esas salvaguardas eran necesarias en 2025, \u00bfhasta qu\u00e9 punto estaban presentes cuando ChatGPT ya era utilizado diariamente por cientos de millones de personas?<\/p>\n

Los datos disponibles muestran que el problema no es te\u00f3rico. Un an\u00e1lisis reciente se\u00f1alaba que OpenAI hab\u00eda detectado indicios de crisis relacionadas con psicosis o man\u00eda en aproximadamente el 0.07% de los usuarios activos semanales, mientras que un 0.15% manten\u00eda conversaciones que inclu\u00edan se\u00f1ales relacionadas con ideaci\u00f3n o planificaci\u00f3n suicida<\/a>. Son porcentajes aparentemente peque\u00f1os, pero aplicados a una base de usuarios de cientos de millones de personas representan cifras enormes. En esas condiciones, hablar de casos aislados deja de tener sentido.<\/p>\n

A ello se suma otro problema ampliamente conocido: las alucinaciones. En medicina, educaci\u00f3n, derecho o informaci\u00f3n p\u00fablica, una respuesta plausible pero incorrecta puede tener consecuencias importantes. Un trabajo publicado en npj Digital Medicine analizaba precisamente la necesidad de establecer marcos rigurosos para evaluar errores y alucinaciones en aplicaciones m\u00e9dicas basadas en inteligencia artificial<\/a>. Del mismo modo, un an\u00e1lisis publicado en The BMJ advert\u00eda sobre los riesgos de precisi\u00f3n insuficiente, sesgos y problemas de seguridad en sistemas de inteligencia artificial utilizados en contextos sanitarios<\/a>.<\/p>\n

La cuesti\u00f3n de fondo no es que los modelos se equivoquen. Toda tecnolog\u00eda se equivoca. La cuesti\u00f3n es que estos sistemas se han convertido en interlocutores cotidianos para millones de personas que los utilizan para buscar informaci\u00f3n m\u00e9dica, resolver dudas personales, tomar decisiones profesionales o afrontar problemas emocionales. Cuando un usuario habla con ChatGPT sobre ansiedad, depresi\u00f3n, medicaci\u00f3n, relaciones personales o problemas familiares, no est\u00e1 simplemente utilizando una herramienta inform\u00e1tica. Est\u00e1 compartiendo informaci\u00f3n extremadamente sensible con una infraestructura corporativa cuya evoluci\u00f3n sigue siendo r\u00e1pida y cuya gobernanza contin\u00faa planteando numerosas preguntas.<\/p>\n

La comparaci\u00f3n con el reciente caso de Gemini en Alemania resulta inevitable. Como coment\u00e9 hace un par de d\u00edas<\/a>, la discusi\u00f3n ya no gira \u00fanicamente en torno a qui\u00e9n genera una informaci\u00f3n falsa, sino sobre qui\u00e9n debe asumir las consecuencias cuando esa informaci\u00f3n produce da\u00f1os reales. Los modelos generativos han dejado de ser experimentos acad\u00e9micos para convertirse en infraestructuras sociales de uso masivo.<\/p>\n

Por supuesto, OpenAI puede argumentar que ha introducido mejoras constantes, nuevas medidas de seguridad, controles parentales, protocolos de emergencia y sistemas de monitorizaci\u00f3n m\u00e1s sofisticados. Todo eso es cierto. Tambi\u00e9n lo es que la compa\u00f1\u00eda ha desempe\u00f1ado un papel fundamental en la popularizaci\u00f3n de una tecnolog\u00eda extraordinariamente prometedora. Pero ninguna de esas consideraciones elimina la pregunta central: \u00bfse lanz\u00f3 ChatGPT al mercado masivo antes de que estuviese suficientemente maduro?<\/p>\n

Durante d\u00e9cadas, la industria tecnol\u00f3gica ha funcionado bajo una l\u00f3gica muy concreta: desplegar primero, corregir despu\u00e9s. Ese enfoque puede ser aceptable cuando hablamos de redes sociales, interfaces o aplicaciones de entretenimiento. Sin embargo, resulta mucho m\u00e1s dif\u00edcil defenderlo cuando hablamos de sistemas capaces de influir emocionalmente en los usuarios, gestionar informaci\u00f3n sanitaria o convertirse en una fuente de autoridad percibida para millones de personas.<\/p>\n

La investigaci\u00f3n abierta contra OpenAI no deber\u00eda interpretarse como un ataque a la inteligencia artificial. M\u00e1s bien representa una prueba de madurez para una tecnolog\u00eda que aspira a ocupar un papel central en nuestras vidas. Si los modelos de lenguaje van a estar presentes en nuestras escuelas, empresas, hospitales, administraciones y hogares, tendr\u00e1n que aceptar niveles de responsabilidad acordes con su influencia.<\/p>\n

OpenAI encendi\u00f3 la mecha de la revoluci\u00f3n de los grandes modelos de lenguaje con un producto fascinante y transformador. Pero tambi\u00e9n es posible que ese producto llegase al mercado antes de alcanzar el grado de madurez necesario para una adopci\u00f3n tan masiva. Si esa hip\u00f3tesis termina confirm\u00e1ndose, la discusi\u00f3n ya no ser\u00e1 \u00fanicamente tecnol\u00f3gica. Ser\u00e1 jur\u00eddica, regulatoria y social.<\/p>\n

Durante demasiado tiempo hemos tratado los errores de ChatGPT como curiosidades de sobremesa. Ha llegado el momento de analizarlos como lo que realmente son: s\u00edntomas de una tecnolog\u00eda poderosa desplegada a una velocidad muy superior a nuestra capacidad colectiva para comprender todas sus consecuencias.<\/p>\n

\n

This article is also available in English on my Medium page, \u00abChatGPT under scrutiny: the end of move fast and fix things later<\/a>?\u00bb <\/em><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fuente: Art\u00edculo original<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

La investigaci\u00f3n abierta por una coalici\u00f3n de fiscales generales de cuarenta y dos estados norteamericanos contra OpenAI no deber\u00eda sorprender a nadie. Lo sorprendente es que haya tardado tanto. Durante a\u00f1os hemos hablado de los problemas de ChatGPT como si fueran an\u00e9cdotas: respuestas inventadas, citas inexistentes, recomendaciones absurdas o conversaciones que terminan derivando hacia conclusiones […]<\/p>\n","protected":false},"author":1,"featured_media":2914,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[33],"tags":[],"class_list":["post-2915","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/2915","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/comments?post=2915"}],"version-history":[{"count":0,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/posts\/2915\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media\/2914"}],"wp:attachment":[{"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/media?parent=2915"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/categories?post=2915"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tucumandevelopers.com\/index.php\/wp-json\/wp\/v2\/tags?post=2915"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}