Las marcas de agua de la IA: huellas invisibles que no demuestran quién escribió algo pero puede parecer que lo dicen todo
¿Qué pide la Unión Europea? Según el texto oficial de la ley, explicado para legos, se obliga a los proveedores de sistemas IA que generan audio, imágenes, vídeo o texto sintético a hacer que esos contenidos puedan identificarse mediante marcas legibles, utilizando «soluciones eficaces y razonablemente robustas» (toma generalización).
Pero hay un matiz importante: el propio artículo excluye los sistemas que simplemente realizan lo que sería una ayuda a la edición o que no modifican sustancialmente los datos o su significado. Para textos sobre asuntos de interés público, es decir las noticias en prensa, radio, TV e internet principalmente, existe además una obligación de informar al público, excepto cuando haya una revisión o control editorial humano posterior y una persona (física o jurídica) asuma la responsabilidad editorial.
Curiosamente la ley no dice que «todo lo que toque una IA deba considerarse escrito por una IA», ni obliga específicamente a utilizar una frase o aviso concreto. Simplemente exige que esté indicado y se pueda detectar (presumiblemente, de forma automática por otro software). Según el Código de buenas prácticas sobre transparencia de contenidos generados por IA, firmado por Anthropic otras 190 organizaciones y empresas, existen formas prácticas de cumplirlo. Hay un método para textos y otros para imágenes y similares, donde Anthropic empleará además C2PA que son metadatos firmados criptográficamente que permiten comprobar si se ha alterado el contenido.
En aquel momento, parecía buena idea
Aunque la idea parece en principio loable, el debate está candente, tal y como deja ver el artículo de Guillaume Meyer Por qué estoy en contra de las marcas de agua de la IA. Meyer ha creado watermarks-remover, un proyecto que elimina las marcas de agua dejando los textos con una pulcritud intachable como «no detectables». Alcanzó 2 millones de visualizaciones y 9.000 estrellas en GitHub en menos de 3 días.
Su argumento central es fácil de entender: que una máquina haya intervenido de algún modo en un texto no significa que sea su autora. Puede haberlo escrito una persona y haber pasado después por Claude para corregirlo, traducirlo, resumirlo o modificarlo. De hecho, raro sería ver un texto que no haya pasado por una máquina que actúa como corrector ortográfico, traductora o incluso como revisora de estilo SEO. Así que, eso no merece ser detectable, ergo… fuera marcas.
¿Cómo funcionan las marcas de agua de Claude?
Anthropic ha explicado en su web el sistema que utilizará Claude, llamado SynthID-Text. No es tan burdo como para añadir simplemente caracteres invisibles, espacios «raros» o no imprimibles, unicodes especiales o metadatos secretos (aunque eso también suele funcionar, cual estenografía de toda la vida). SynthID-Text está basado en un desarrollo de Google DeepMind y se ha probado secretamente en unos 20 millones de respuestas de Gemini sin que la gente haya notado diferencias estadísticamente significativas en cuanto a la calidad de los textos. En el código he leído que es incluso más fácil, pues se puede usar en comentarios o cambiando los nombres de las variables y cosas así. La idea ya la describió el mismísimo Scott Aaronson en 2022 cuando trabajaba para OpenAI como consultor, aunque no llegó a implementarse en ChatGPT.
La idea es aprovechar la aleatoriedad del modelo al escoger las palabras. Si por ejemplo «gris» y «nublado» son prácticamente igual de adecuadas en cierto contexto, existe cierta probabilidad de elegir una u otra. SynthID-Text sustituye parte de esa aleatoriedad por elecciones pseudoaleatorias que dependen de una clave secreta y del contexto anterior. Para quien lee el resultado, todo parece normal, pero acumulando cientos de estas «elecciones» acaba apareciendo una pequeña correlación estadística. Un detector que conozca la clave puede analizar la secuencia y calcular la probabilidad de que haya sido producida mediante ese mecanismo. Cuanto más largo sea el texto, mayor será la señal. Cuando se trata de código de programación, datos exactos, textos cortos o simples correcciones ortográficas hay menos decisiones posibles y la señal se debilita (aunque a mi me parece que también se pueden añadir comentarios, cambiar nombres de variables y cosas así).
Anthropic reconoce que la detección no puede demostrar que Claude sea el autor de un texto; el dato final simplemente indica que «probablemente intervino» en algún momento. Si se corrige manualmente el texto, se cambian frases, se traduce a otro idioma o se mezclan textos la señal puede degradarse o desaparecer.
¿Marcas de agua, sí o no?
Como en todo, hay quienes están a favor del uso de las marcas de agua y quien se oponen radicalmente. De forma resumida, estos son los principales argumentos:
A favor de las marcas de agua:
Procedencia del texto. La marca de agua permite obtener una indicación de que cierto sistema IA participó con cierta probabilidad en la generación del contenido.
Desinformación masiva. Puede ayudar a plataformas e investigadores a localizar campañas automatizadas, propaganda, spam o grandes volúmenes de contenido sintético (slop).
Privacidad. Las marcas de Claude no identifican al usuario, empresa o conversación con el LLM. (Tampoco hay que guardar los textos completos).
Persistencia. Las marcas de agua pueden «sobrevivir» aunque se copie y pegue el texto o se hagan modificaciones menores.
Coste y calidad. El coste computacional de SynthID-Text es pequeño. Las pruebas hasta el momento no han mostrado que haya pérdida apreciable de la calidad de los resultados.
En contra de las marcas de agua
Autoría. Detectar que Claude ha intervenido en la generación de un texto no distingue entre decir si ha escrito el artículo completo o modificado sustancialmente un borrador o un artículo distinto. Además, por sí solo, no puede indicar quién es el realmente el autor.
Fragilidad. Una edición suficientemente grande del texto puede destruir la marca de agua de la IA, a pesar de que sea entonces cuando una persona probablemente haya realizado más trabajo sobre el resultado inicial. (Lo cual suena un tanto contradictorio).
Incertidumbre. Es un sistema estadístico: los textos cortos, el código y los contenidos de baja entropía ofrecen poca información. Un positivo no constituye una demostración absoluta.
Incentivos perversos. Un usuario promedio puede publicar un texto marcado sin saberlo, por desconocimiento, mientras que quien pretenda ocultar deliberadamente el uso de IA puede intentar eliminar la marca antes de publicarlo.
Contexto. Una etiqueta «generado por IA» puede interpretarse socialmente como «escrito por IA», aunque exista detrás un autor humano responsable del contenido y el papel de la IA haya sido complementario y menor.
«Lex est Machina»
Llevamos décadas incorporando máquinas al proceso de escribir. Correctores ortográficos, diccionarios, autocorrección, sugerencias de estilo, traducción automática y autocompletado… y ahora inteligencia artificial. Todas ellas fueron en su momento tecnologías «novedosas» que retocaban o generaban textos. Hoy nadie considera que un libro pasado por el corrector ortográfico de Word esté «generado por Microsoft», La IA generativa amplía muchísimo esa zona intermedia, pero no elimina la diferencia entre herramienta, colaboración y autoría.
El ejemplo que pone Meyer de la medicina resulta especialmente ilustrativo: en una empresa de seguros, 7.260 médicos utilizaron asistentes de IA para redactar documentación para 2,5 millones de consultas a lo largo de más de un año. Los médicos revisaron, corrigieron y firmaron los informes, y son quienes responden profesionalmente de ellos. ¿Te fiarías de una receta firmada con un «Generada mediante IA» al pie?
Una marca de agua puede ser útil para saber que se usó una herramienta de IA, pero puede levantar suspicacias indeseadas. En el caso de los médicos hay que considerar quién decidió, quién revisó y quién responderá en caso de problemas. Quizá esa sea la cuestión: que aunque las máquinas ayuden, lo verdaderamente humano sea seguir firmando los trabajos y responsabilizándose de ellos.
Seguir leyendo: Las marcas de agua de la IA: huellas invisibles que no demuestran quién escribió algo pero puede parecer que lo dicen todo
# Enlace permanente
Fuente: Artículo original