Los agentes personales de inteligencia artificial y la nueva apropiación de nuestros datos

La reciente fiebre por poner en el mercado asistentes personales de inteligencia artificial, con productos como Muse (Meta), Dots (OpenAI) o Claude Duet (Anthropic) podría ser parte de una estrategia compartida o una apuesta común de las big tech para reeditar la lógica de la publicidad hiper-segmentada, una transformación social bastante reciente que consiguió apropiarse de una enorme cantidad de valor hasta entonces en manos de los medios de comunicación a través de algo tan socialmente inaceptable hasta el momento como convertir cada vez más aspectos de la vida cotidiana de los consumidores en datos y calcular el valor que generan.

Shoshana Zuboff describe muy bien esa evolución cuando habla del concepto de surveillance capitalism: extracción de datos conductuales personales y su conversión en predicciones comercializables. A comienzos de este siglo, si a cualquiera le hubieran dicho que iba a tener toda una enorme plataforma siguiendo todas sus acciones, anotándolas, construyendo un detalladísimo perfil de sus preferencias y subastándolas al mejor postor, se habría escandalizado. Sin embargo, compañías como Google o Meta lograron crear ese entramado, esa maquinaria de espionaje colectivo, y se apropiaron de una enorme cantidad de valor a costa de robársela a los medios, de convertir en miserables las vidas de muchos usuarios, y de paso, de poner en peligro la mismísima democracia debido a sus intentos por generar mayor stickiness y atención por cualquier medio, incluyendo la fortísima polarización y las fake news.

La publicidad digital no solo encontró públicos más precisos: además, concentró poder y valor en manos de las plataformas que controlaban los datos, la segmentación y el acceso a las audiencias. Gracias a esa jugada, Google y Facebook se convirtieron en actores con una posición dominante en el mercado publicitario, lo que ha tenido efectos descomunales – y no precisamente positivos – en consumidores, anunciantes y editores.

Ahora, vivimos un cambio de época, de nuevo planteado para favorecer a los nuevos actores hegemónicos, las big tech: la publicidad personalizada infería gustos a partir de búsquedas, clics y navegación. Pero un agente conectado a nuestro correo, nuestro calendario, nuestras compras y nuestras aplicaciones puede conocer también planes, restricciones, prioridades e intenciones a un nivel de intimidad nunca visto anteriormente. OpenAI describe Dots como «agentes que aprenden preferencias y trabajan de forma continua«, Anthropic presenta Claude Duet revisando aplicaciones conectadas y actuando cuando el usuario no está. Son ejemplos del cambio de escala y contexto que prometen las propias empresas, y Meta no necesita definir nada, porque todos entendemos perfectamente a que se dedica… a lo que se ha dedicado siempre.

Muse, Dots y Duet no son solo chatbots más capaces: aspiran a ser la capa desde la que delegamos decisiones y tareas. Cuando un sistema pide acceso a información íntima, los detalles del producto importan, pero Meta, como siempre, no los cuida en absoluto: las conversaciones que habían decidido compartir mediante un enlace podían descubrirse fácilmente mediante búsquedas en DNS pasivo. Son, una vez más (y van mil y una) las cosas que están en juego cuando se delega tanto contexto a una empresa, y más con semejante historial. Y no olvidemos que más de diez millones de norteamericanos han acudido encantados a probar la propuesta de Meta, que pretende obtener ingresos de Muse reteniendo una parte de las transacciones.

Si el agente conoce lo que queremos comprar, cuánto podemos pagar y qué alternativas consideramos, ¿quién controla sus recomendaciones y quién captura el margen? El precedente de la publicidad hiper-segmentada hace razonable plantearlo: la idea de monetizar cada agente vendiendo las preferencias más íntimas del usuario fluye de manera inmediata. La preocupación central sería que la función de intermediación permita extraer valor y consolidar poder, aunque la factura llegue en forma de suscripción, comisión o prioridad comercial.

La privacidad es un derecho fundamental en la Unión Europea, pero la publicidad personalizada, sin embargo, no está prohibida en bloque como legítimamente debería. El Tribunal de Justicia ha limitado la agregación y el procesamiento indiscriminados de datos para publicidad dirigida, y el DSA prohíbe ciertos tipos de segmentación basada en datos sensibles, pero los efectos de esas prohibiciones, a la luz de lo que vemos actualmente, son más bien escasos o directamente nulos: los europeos estamos igual de acosados y espiados que otros ciudadanos en otras partes del mundo, lo que convierte en ridículos, si no directamente patéticos, los esfuerzos del regulador. La pregunta final es clara: ¿se aplicarán esos principios también a agentes que reúnen información de muchos ámbitos y median cada vez más decisiones? ¿O volveremos a permitir la reedición de la creación de sistemas de espionaje masivos para desviar todavía más valor a las arcas de las big tech?

In English on Medium, «Surveillance capitalism gets personal: Big Tech’s new focus is AI agents»