Miles de apps programadas por la IA desparraman datos confidenciales por internet

“Según la información limitada que compartieron, la principal afirmación de RedAccess parece ser que algunos usuarios han publicado aplicaciones en la web abierta que deberían haber sido privadas”, escribió Amjad Masad, CEO de Replit, en una respuesta en X. “Replit permite a los usuarios elegir si las aplicaciones son públicas o privadas. Que las aplicaciones públicas sean accesibles en internet es lo esperado. La configuración de privacidad se puede cambiar en cualquier momento con un solo clic”.

Un portavoz de Lovable respondió en un comunicado: “En Lovable nos tomamos muy en serio los informes sobre datos expuestos y sitios de phishing, y estamos trabajando activamente para obtener la información necesaria para investigar. Este asunto sigue en curso. Cabe destacar que Lovable proporciona a los desarrolladores las herramientas para crear aplicaciones de forma segura, pero la configuración de la aplicación es, en última instancia, responsabilidad del creador”.

Blake Brodie, directora de relaciones públicas de Wix, la empresa matriz de Base44, declaró que “Base44 ofrece a los usuarios herramientas robustas para configurar la seguridad de sus propias aplicaciones, incluyendo controles de acceso y ajustes de visibilidad”. Añadió que “deshabilitar esos controles es una acción deliberada y sencilla que cualquier usuario puede realizar. En los casos en que las aplicaciones eran accesibles públicamente, esto refleja una decisión de configuración del usuario, no una vulnerabilidad de la plataforma“.

Brodie también señaló que “es sumamente fácil fabricar aplicaciones que aparentan contener datos reales de usuarios. Sin un solo ejemplo verificado, no tenemos forma de evaluar la validez de estas afirmaciones”. Por su parte, RedAccess negó no haber proporcionado ejemplos a Base44.

Zvi señala que para unas pocas docenas de aplicaciones web expuestas, llegó a ponerse en contacto con el propietario aparente de la aplicación, que confirmó que los datos habían sido expuestos. RedAccess también compartió con WIRED comunicaciones anonimizadas en varios casos que mostraban a usuarios de Base44 dando las gracias a los investigadores por alertarles sobre aplicaciones web expuestas, que luego fueron protegidas o desconectadas.

Qué tanto podemos confiar en las apps de vibe coding

Verificar si se han expuesto datos reales en alguna aplicación web con IA no segura puede ser complicado, afirma Joel Margolis, investigador de seguridad que, junto con un colega, descubrió recientemente que un juguete de chat con IA había expuesto 50,000 conversaciones que mantuvo con niños en un sitio web prácticamente sin seguridad. Los datos esta aplicación de vibe coding podrían ser marcadores de posición, explica, o la aplicación podría ser simplemente una prueba de concepto (PoC). Brodie, de Wix, argumentó que dos ejemplos que WIRED compartió con Base44 parecían ser sitios de prueba o contener datos generados por IA.

En el caso de las aplicaciones web analizadas por WIRED, no pudimos confirmar que los datos personales o corporativos fueran tan sensibles, o reales, como parecían.

No obstante, Margolis afirma que el problema de las aplicaciones web con IA que exponen datos es muy real. Dice que con frecuencia se encuentra con el tipo de vulnerabilidades que Zvi catalogó. “Alguien del equipo de marketing quiere crear un sitio web. No es ingeniero y probablemente tenga poca o ninguna experiencia o conocimiento en seguridad”, explica Margolis. Las herramientas de programación de IA, añade, “hacen lo que se les pide. Y a menos que se les pida que lo hagan de forma segura, no se esforzarán por hacerlo”.

Zvi señala que las 5,000 aplicaciones expuestas que encontró Red Access eran solo aquellas alojadas en los dominios de las herramientas de codificación de IA, y que probablemente miles más estén alojadas en dominios comprados por los propios usuarios. Compara la actual avalancha de filtraciones de datos resultante de las aplicaciones web con IA no seguras de las empresas con la epidemia de datos expuestos causada por la configuración de seguridad de los depósitos de almacenamiento de Amazon S3 en años anteriores. Empresas como Verizon y World Wrestling Entertainment expusieron accidentalmente grandes cantidades de datos confidenciales debido a configuraciones incorrectas en su instancia del servicio de almacenamiento en la nube de Amazon. Sin embargo, muchos en la industria de la ciberseguridad también culparon parcialmente a Amazon por la confusión en la configuración de seguridad que llevó a tantos clientes a cometer los mismos errores.

Según Zvi, las herramientas de codificación de aplicaciones web con IA están generando una oleada de filtraciones de datos, resultado de una combinación similar de errores humanos y falta de medidas de seguridad. Sin embargo, argumenta que, más allá de cualquier fallo de seguridad por parte de las empresas de codificación de IA, estas herramientas permiten que un nuevo grupo de personas dentro de las organizaciones cree aplicaciones, a menudo con escasa concienciación sobre seguridad y al margen de los procesos habituales de desarrollo de software que las empresas utilizan para validar las aplicaciones antes de su lanzamiento.

“Cualquier persona de tu empresa puede generar una aplicación en cualquier momento, sin que pase por ningún ciclo de desarrollo ni control de seguridad. La gente puede empezar a usarla en producción sin pedir permiso a nadie”, concluye Zvi.

Artículo originalmente publicado en WIRED. Adaptado por Alondra Flores.