Marca de agua sintética

Así como una marca de agua tradicional en un billete o un documento sirve para probar autenticidad, una marca de agua sintética busca lo opuesto: dejar una huella verificable de que un contenido fue generado por una máquina. La huella se diseña para ser imperceptible a simple vista (o al oído) pero detectable con la herramienta adecuada, y —idealmente— resistente a manipulaciones comunes como comprimir una imagen o reescribir parte de un texto.

En modelos de lenguaje, una propuesta influyente es "A Watermark for Large Language Models" (Kirchenbauer et al., 2023), que describe un método estadístico: al generar cada palabra, el modelo favorece sutilmente un subconjunto de palabras "permitidas" elegido según una clave, de forma que el texto sigue siendo natural para un lector, pero un detector con la clave puede confirmar, con alta probabilidad, que ese texto salió de un modelo con esa marca. Para imágenes, Google DeepMind lanzó en 2023 SynthID, una herramienta que incrusta una marca a nivel de píxeles en imágenes generadas por sus modelos, diseñada para sobrevivir a ediciones y compresiones razonables sin ser visible.

En términos accesibles: en vez de "pegarle un sello" al contenido terminado, la marca se inserta durante el propio proceso de generación —eligiendo qué palabra o qué valor de píxel usar entre varias opciones igualmente válidas, sesgadas de forma imperceptible pero estadísticamente detectable—. Eso es lo que la distingue de un sello visible tipo "generado por IA": la marca de agua sintética busca sobrevivir incluso si alguien intenta editar o recortar el contenido.

Se encuentra hoy en generadores de imágenes de grandes laboratorios que ya incorporan marcas de agua invisibles de forma nativa, en propuestas de estándares de procedencia de contenido, y en obligaciones regulatorias emergentes: el Reglamento de IA de la Unión Europea (2024) exige, para ciertos sistemas, que el contenido sintético sea identificable como tal.

Ninguna marca de agua conocida es perfectamente robusta: para texto, reescribir o traducir el contenido puede borrar la señal estadística; para imagen y audio, recortes agresivos o cambios de formato pueden degradarla. Además, la mayoría de estos esquemas dependen de que el propio proveedor del modelo coopere insertando la marca —un modelo de pesos abiertos que alguien modifique para quitar esa capa deja de estar cubierto—, lo que limita su alcance como solución universal contra la desinformación o los deepfakes. También se discute si el estándar debería ser obligatorio y uniforme entre proveedores, o si cada laboratorio seguirá con su propio método incompatible con los demás.