Miles de apps programadas por la IA desparraman datos confidenciales por internet

A medida que la IA se apodera cada vez más del trabajo de los programadores modernos, el mundo de la ciberseguridad ha advertido de que las herramientas de vibe coding (programación por vibra o intuitiva) seguramente introducirán una gran cantidad de vulnerabilidades en el software. Sin embargo, cuando esas mismas herramientas invitan a cualquiera a crear aplicaciones alojadas en la web con un clic, resulta que las implicaciones para la seguridad van más allá de los bugs y llegan a la ausencia total de seguridad, incluso para datos corporativos y personales muy sensibles.

El investigador de seguridad Dor Zvi y su equipo en la empresa de ciberseguridad que cofundó, RedAccess, analizaron miles de aplicaciones basadas en vibe coding, creadas con las herramientas de desarrollo de software de IA Lovable, Replit, Base44 y Netlify, y descubrieron que más de 5000 carecían prácticamente de seguridad o autenticación. Muchas de estas aplicaciones permitían que cualquier persona que encontrara su URL accediera a ellas y a sus datos. Otras presentaban barreras de acceso mínimas, como requerir que el visitante iniciara sesión con una dirección de correo electrónico. Según Zvi, alrededor del 40% de las aplicaciones exponían datos confidenciales, incluyendo información médica, datos financieros, presentaciones corporativas y documentos estratégicos, así como registros detallados de conversaciones de clientes con chatbots.

Comparten tus datos sin que lo notes

"El resultado final es que las organizaciones están realmente filtrando datos privados a través de aplicaciones de vibe coding. Este es uno de los mayores incidentes de la historia en el que se expone información confidencial a cualquier persona en el mundo", refiere Zvi.

También afirma que la búsqueda de aplicaciones web vulnerables por parte de RedAccess fue sorprendentemente fácil. Lovable, Replit, Base44 y Netlify permiten a los usuarios alojar sus aplicaciones web en los dominios propios de esas empresas de IA, en lugar de en los de los usuarios. Así que los investigadores utilizaron búsquedas directas en Google y Bing de los dominios de esas empresas de IA combinadas con otros términos de búsqueda para identificar miles de aplicaciones que habían sido codificadas con las herramientas de esas empresas.

De acuerdo con Zvi, de las 5,000 aplicaciones con IA que quedaron accesibles públicamente a cualquiera que simplemente escribiera sus URL en un navegador, encontró cerca de 2,000 que, tras una inspección más detallada, parecían revelar datos privados: las capturas de pantalla de las aplicaciones web que compartió con WIRED mostraban lo que parecían ser asignaciones de trabajo de un hospital con información personal identificable de médicos; información específica sobre la compra de publicidad de una empresa; lo que parecía ser una presentación de la estrategia de comercialización de otra compañía; registros completos de conversaciones entre el chatbot de un minorista y sus clientes, incluidos nombres completos e información de contacto; registros de carga de una empresa de transporte; y diversos registros financieros y de ventas de otras compañías. En algunos casos, dice Zvi, descubrió que las aplicaciones expuestas le habrían permitido obtener privilegios de administrador sobre los sistemas e incluso eliminar a otros administradores.

En el caso de Lovable, Zvi afirma haber encontrado también numerosos ejemplos de sitios de phishing que suplantaban la identidad de grandes corporaciones, como Bank of America, Costco, FedEx, Trader Joe's y McDonald's, que parecían haber sido creados con la herramienta de codificación de IA y alojados en el dominio de Lovable.

Cuando WIRED consultó a las cuatro empresas de desarrollo de IA sobre los hallazgos de RedAccess, Netlify no respondió, pero las otras tres rechazaron las afirmaciones de los investigadores y protestaron alegando que no habían compartido suficiente información ni les habían dado tiempo suficiente para responder. Sin embargo, no negaron que las aplicaciones web que RedAccess analizó quedaron expuestas.

"Según la información limitada que compartieron, la principal afirmación de RedAccess parece ser que algunos usuarios han publicado aplicaciones en la web abierta que deberían haber sido privadas", escribió Amjad Masad, CEO de Replit, en una respuesta en X. "Replit permite a los usuarios elegir si las aplicaciones son públicas o privadas. Que las aplicaciones públicas sean accesibles en internet es lo esperado. La configuración de privacidad se puede cambiar en cualquier momento con un solo clic".

Un portavoz de Lovable respondió en un comunicado: "En Lovable nos tomamos muy en serio los informes sobre datos expuestos y sitios de phishing, y estamos trabajando activamente para obtener la información necesaria para investigar. Este asunto sigue en curso. Cabe destacar que Lovable proporciona a los desarrolladores las herramientas para crear aplicaciones de forma segura, pero la configuración de la aplicación es, en última instancia, responsabilidad del creador".

Blake Brodie, directora de relaciones públicas de Wix, la empresa matriz de Base44, declaró que "Base44 ofrece a los usuarios herramientas robustas para configurar la seguridad de sus propias aplicaciones, incluyendo controles de acceso y ajustes de visibilidad". Añadió que "deshabilitar esos controles es una acción deliberada y sencilla que cualquier usuario puede realizar. En los casos en que las aplicaciones eran accesibles públicamente, esto refleja una decisión de configuración del usuario, no una vulnerabilidad de la plataforma".

Brodie también señaló que "es sumamente fácil fabricar aplicaciones que aparentan contener datos reales de usuarios. Sin un solo ejemplo verificado, no tenemos forma de evaluar la validez de estas afirmaciones". Por su parte, RedAccess negó no haber proporcionado ejemplos a Base44.

Zvi señala que para unas pocas docenas de aplicaciones web expuestas, llegó a ponerse en contacto con el propietario aparente de la aplicación, que confirmó que los datos habían sido expuestos. RedAccess también compartió con WIRED comunicaciones anonimizadas en varios casos que mostraban a usuarios de Base44 dando las gracias a los investigadores por alertarles sobre aplicaciones web expuestas, que luego fueron protegidas o desconectadas.

Qué tanto podemos confiar en las apps de vibe coding

Verificar si se han expuesto datos reales en alguna aplicación web con IA no segura puede ser complicado, afirma Joel Margolis, investigador de seguridad que, junto con un colega, descubrió recientemente que un juguete de chat con IA había expuesto 50,000 conversaciones que mantuvo con niños en un sitio web prácticamente sin seguridad. Los datos esta aplicación de vibe coding podrían ser marcadores de posición, explica, o la aplicación podría ser simplemente una prueba de concepto (PoC). Brodie, de Wix, argumentó que dos ejemplos que WIRED compartió con Base44 parecían ser sitios de prueba o contener datos generados por IA.

En el caso de las aplicaciones web analizadas por WIRED, no pudimos confirmar que los datos personales o corporativos fueran tan sensibles, o reales, como parecían.

No obstante, Margolis afirma que el problema de las aplicaciones web con IA que exponen datos es muy real. Dice que con frecuencia se encuentra con el tipo de vulnerabilidades que Zvi catalogó. "Alguien del equipo de marketing quiere crear un sitio web. No es ingeniero y probablemente tenga poca o ninguna experiencia o conocimiento en seguridad", explica Margolis. Las herramientas de programación de IA, añade, "hacen lo que se les pide. Y a menos que se les pida que lo hagan de forma segura, no se esforzarán por hacerlo".


Zvi señala que las 5,000 aplicaciones expuestas que encontró Red Access eran solo aquellas alojadas en los dominios de las herramientas de codificación de IA, y que probablemente miles más estén alojadas en dominios comprados por los propios usuarios. Compara la actual avalancha de filtraciones de datos resultante de las aplicaciones web con IA no seguras de las empresas con la epidemia de datos expuestos causada por la configuración de seguridad de los depósitos de almacenamiento de Amazon S3 en años anteriores. Empresas como Verizon y World Wrestling Entertainment expusieron accidentalmente grandes cantidades de datos confidenciales debido a configuraciones incorrectas en su instancia del servicio de almacenamiento en la nube de Amazon. Sin embargo, muchos en la industria de la ciberseguridad también culparon parcialmente a Amazon por la confusión en la configuración de seguridad que llevó a tantos clientes a cometer los mismos errores.

Según Zvi, las herramientas de codificación de aplicaciones web con IA están generando una oleada de filtraciones de datos, resultado de una combinación similar de errores humanos y falta de medidas de seguridad.

Sin embargo, argumenta que, más allá de cualquier fallo de seguridad por parte de las empresas de codificación de IA, estas herramientas permiten que un nuevo grupo de personas dentro de las organizaciones cree aplicaciones, a menudo con escasa concienciación sobre seguridad y al margen de los procesos habituales de desarrollo de software que las empresas utilizan para validar las aplicaciones antes de su lanzamiento.

"Cualquier persona de tu empresa puede generar una aplicación en cualquier momento, sin que pase por ningún ciclo de desarrollo ni control de seguridad. La gente puede empezar a usarla en producción sin pedir permiso a nadie", concluye Zvi.

Por :Andy Greenberg - Artículo originalmente publicado en WIRED. Adaptado por Alondra Flores.

Publicaciones

órdoba
Argentina
LATAM

Cigaraotuso @2026