Source: The Conversation – (in Spanish) – By Paula Lamo, Profesora e investigadora, Universidad de Cantabria
Desde el 2 de agosto de 2026, se aplican en la Unión Europea nuevas obligaciones de transparencia para determinados sistemas de inteligencia artificial (IA). Si los usuarios han visto un aviso en la página principal de herramientas como ChatGPT, Gemini, Claude o Deepseek, no se trata de una campaña de imagen de las empresas tecnológicas. Es una consecuencia del artículo 50 del Reglamento europeo de inteligencia artificial.
Entre otras obligaciones, los proveedores de sistemas generativos deben incorporar marcas que permitan detectar contenidos generados o manipulados artificialmente. Mientras, quienes utilizan estos sistemas tienen obligaciones específicas de información cuando producen deepfakes y determinados textos sobre asuntos de interés público.
El objetivo parece claro: reducir los riesgos de engaño, manipulación, fraude o desinformación. Sin embargo, ¿qué demuestra realmente encontrar una de esas marcas? ¿Y qué significa no encontrarla?
Qué se está incrustando exactamente en los archivos
El Código de Buenas Prácticas europeo diseñado para facilitar el cumplimiento del artículo 50 contempla diferentes mecanismos de marcado y detección. El objetivo es que las señales sean legibles por máquina, interoperables, robustas y fiables hasta donde resulte técnicamente posible.
Una de las tecnologías que puede utilizarse para acreditar la procedencia son los metadatos, es decir, etiquetas con información detallada sobre un archivo, criptográficamente verificables. Así, el estándar C2PA permite asociar a un archivo un historial de procedencia mediante credenciales firmadas digitalmente, de manera que las modificaciones posteriores puedan quedar registradas o ser detectables. Otra posibilidad son las marcas de agua imperceptibles incorporadas al propio contenido. Un ejemplo es el sistema SynthID, que introduce señales en imágenes, audio, vídeo o texto, destinadas a sobrevivir a determinadas transformaciones del archivo.
Los dos mecanismos persiguen lo mismo, pero funcionan de manera distinta. Los metadatos se parecen a la etiqueta de una chaqueta: viajan con el archivo, aunque pueden desaparecer cuando este se copia, transforma o procesa. La marca de agua se parece más a la filigrana de un billete: está incrustada en el propio contenido y, en principio, resulta más difícil de eliminar.
No obstante, ambas técnicas identifican la procedencia, no la autoría. Se trata de una limitación importante que hace que, aunque estamos empezando a disponer del «número de serie» que permite rastrear de dónde viene un contenido, sigamos sin tener una prueba capaz de determinar de forma fiable si lo creó una persona o una máquina.
Todos los usos de la IA en el mismo saco
Una señal de procedencia puede acreditar que un determinado sistema intervino en la generación o manipulación del contenido. No explica necesariamente cuánto intervino, ni cuál fue la contribución intelectual de la persona.
No es lo mismo pedir a un modelo que genere un trabajo completo desde cero que utilizarlo para traducir un párrafo, mejorar una frase, depurar un fragmento de código, ordenar datos de laboratorio o retocar una imagen.
Desde el punto de vista de la autoría, el esfuerzo y la responsabilidad intelectual pueden conformar situaciones muy distintas. Y una señal técnica de procedencia no nos saca de dudas.
Entonces, ¿interpretaremos socialmente que un trabajo vale menos simplemente porque aparece el aviso de que intervino una IA? Si ocurre, habremos convertido una infraestructura diseñada para informar sobre la procedencia en algo parecido a un detector de fraude. Y no lo es.
La paradoja del que no tiene nada que ocultar
Existe, además, un problema de incentivos. Quien utiliza una herramienta de IA legítimamente puede no tener ningún interés en eliminar su procedencia. Pero ocurre lo contrario con quien pretende hacer pasar un contenido sintético por auténtico.
Y resulta que, en algunos casos, estas marcas pueden eliminarse. Los metadatos son frágiles porque pueden desaparecer cuando el archivo se transforma, se vuelve a guardar o pasa por determinados servicios. Una captura de pantalla, por ejemplo, crea un archivo nuevo que ya no conserva necesariamente la cadena de procedencia original. Por su parte, las marcas de agua incorporadas al propio contenido intentan resolver ese problema: pueden diseñarse para resistir operaciones como compresión, recorte o reescalado.
Pero robusto no significa indestructible. Está demostrado que determinadas marcas invisibles en imágenes pueden eliminarse mediante ataques de regeneración, en los que se añade ruido –errores, imágenes borrosas– para que un modelo generativo reconstruya posteriormente la imagen, debilitando o eliminando la señal original.
Otros trabajos han estudiado un reto todavía más delicado: el compromiso entre hacer una marca suficientemente robusta para sobrevivir a manipulaciones y evitar que el sistema termine detectando como marcados contenidos que no deberían estarlo.
En este contexto, las marcas pueden ser muy útiles para mantener una cadena de procedencia cuando los participantes quieren conservarla. El problema aparece cuando alguien intenta deliberadamente romperla.
Intentos de regulación en una red global
Europa no es la única que intenta afrontar el desafío. China introdujo en 2025 medidas específicas para identificar contenidos generados mediante IA. Corea del Sur también ha incorporado la obligación de etiquetar esta clase de contenidos.
En Estados Unidos, California ha aprobado la ley AI Transparency Act, activa también desde el 2 de agosto de 2026, que obliga a grandes proveedores de IA generativa a incorporar señales latentes en imágenes, vídeo y audio generados por sus sistemas y a proporcionar herramientas que permitan a los usuarios comprobar si un contenido incluye esas señales.
El resultado es un mosaico de obligaciones, tecnologías, excepciones y umbrales desplegado sobre una red que nunca fue diseñada para preguntar por el pasaporte de cada archivo.
Presencia y ausencia no significan lo mismo
Disponer de mecanismos capaces de demostrar de dónde procede un contenido puede convertirse en una pieza importante de la infraestructura digital. El valor no está solo en señalar contenido generado mediante IA: también puede estar en acreditar que una fotografía procede realmente de la cámara o de la organización que afirma haberla producido.
El problema aparece cuando convertimos una señal de procedencia en un veredicto sobre la autoría. Si encontramos una marca fiable, podemos obtener información relevante sobre la intervención de un determinado sistema o sobre el historial del archivo. Pero si no encontramos ninguna, la conclusión no es tan clara. Puede ser un contenido humano. Puede proceder de un sistema que no estaba obligado a incorporar esa señal. Puede haber sufrido transformaciones que rompieron su cadena de procedencia. Puede haberse realizado una captura de pantalla. O alguien puede haber intentado deliberadamente eliminar la marca.
Presencia y ausencia, por tanto, no tienen el mismo valor probatorio. Y entender esa asimetría será imprescindible si estas tecnologías empiezan a utilizarse en educación, periodismo, justicia, redes sociales o propiedad intelectual.
Al mismo tiempo, una marca de procedencia puede ayudarnos a responder a la pregunta: ¿de dónde viene esto? Pero no responde a otra mucho más difícil: ¿quién lo pensó? Para esa segunda pregunta seguimos sin tener un detector automático.
Este trabajo ha sido apoyado por el Gobierno Regional de Cantabria y financiado por la UE bajo el proyecto de investigación 2023-TCN-008 UETAI.
– ref. ¿Ha hecho esto una IA? – https://theconversation.com/ha-hecho-esto-una-ia-290038