Post

De objeto de la mirada a objeto del algoritmo: el cuerpo femenino ante los ‘deepfakes’

De objeto de la mirada a objeto del algoritmo: el cuerpo femenino ante los ‘deepfakes’

Source: The Conversation – (in Spanish) – By M. Mar Martínez-Oña, Investigadora y profesora, UDIT – Universidad de Diseño, Innovación y Tecnología

sakkmesterke/Shutterstock

La condena dictada el pasado mes de octubre en Sevilla contra tres hombres por manipular, mediante inteligencia artificial, fotografías de varias jóvenes para crear falsos desnudos ha vuelto a situar en el centro del debate una cuestión incómoda: ¿qué ocurre cuando una tecnología permite fabricar imágenes sexuales de una persona?

La pregunta no es solo jurídica ni tecnológica. También es ética, educativa y sociocultural. Además, afecta a la forma en que entendemos la imagen, el consentimiento y el cuerpo en la era digital.

El cuerpo ya no necesita existir para ser expuesto

Durante años, la preocupación en internet se centró en la difusión no autorizada de fotografías íntimas. Actualmente, ya no es necesario disponer de esas imágenes para causar daño. Es suficiente con una fotografía copiada o descargada de una red social, un programa de inteligencia artificial y unos pocos segundos para generar una representación hiperrealista y no autorizada de una persona desnuda.

Las imágenes sintéticas pueden inventar un cuerpo femenino inexistente, una escena que nunca ocurrió o una situación que jamás tuvo lugar. Lo que vemos deja de ser necesariamente el reflejo de una realidad para convertirse en una representación visual generada por un algoritmo.

Esta transformación tiene consecuencias profundas. No solo porque dificulta distinguir entre lo auténtico y lo falso, sino porque altera nuestra relación con la identidad y la imagen personal, que deja de depender de nosotros para ser creada o manipulada por otros.

Hoy alguien puede producir una versión digital de nuestro cuerpo sin nuestro conocimiento ni consentimiento, incluso, sin que exista una fotografía original.

Tecnología nueva para una práctica muy antigua

La inteligencia artificial no ha inventado la cosificación de las mujeres. La cultura visual occidental está llena de ejemplos que muestran cómo la imagen femenina ha sido creada, durante siglos, como objeto de contemplación, producto de deseo o consumo. Desde las representaciones clásicas de Venus hasta determinados modelos publicitarios contemporáneos, su cuerpo ha ocupado un lugar central en la construcción de ideales de belleza y feminidad, conceptos tradicionalmente asociados a la sexualización y la cosificación femenina.

Lo que cambia ahora es la escala. La inteligencia artificial permite automatizar procesos que antes requerían tiempo, conocimientos técnicos o recursos. La producción de imágenes ya no está limitada a fotógrafos, diseñadores o editores profesionales. Cualquier usuario puede generar cientos de ellas en pocos minutos.

La novedad, por tanto, no es la existencia de determinados imaginarios sobre las mujeres, sino la capacidad de algunos usuarios malintencionados de reproducirlos y divulgarlos masivamente.

¿Por qué las principales víctimas son mujeres?

Las investigaciones sobre los deepfakes muestran que la inmensa mayoría de los contenidos manipulados de carácter sexual tienen a las mujeres como objetivo. No se trata de una casualidad ni de una consecuencia inevitable de la tecnología.

Los sistemas de inteligencia artificial no producen imaginarios desde el vacío. Aprenden a partir de enormes volúmenes de imágenes que reflejan valores, prejuicios, estereotipos de género y jerarquías de poder presentes en la sociedad y creadas a lo largo de la historia. Por esta razón, tienden a reproducir patrones socioculturales preexistentes.

El derecho a la propia imagen en la era de la IA

La posibilidad de crear desnudos falsos plantea, además, un desafío para conceptos que parecían consolidados.

¿Qué significa el derecho a la propia imagen, cuando una representación puede generarse sin que la persona retratada haya participado en ella? ¿Cómo se protege la reputación de alguien frente a imágenes que nunca existieron pero que resultan verosímiles? ¿Quién controla un cuerpo digital que otros pueden fabricar artificialmente?

Estas cuestiones son especialmente importantes para adolescentes y jóvenes, que desarrollan una parte significativa de su vida social en entornos digitales. Una imagen manipulada puede difundirse con enorme rapidez y permanecer accesible durante años, incluso después de haber sido desmentida.

El impacto, además, no es únicamente psicológico. También puede afectar a relaciones personales, oportunidades profesionales y formas de participación social.

Aprender a mirar de nuevo

Frente a este escenario, las respuestas legales son necesarias, pero no suficientes.

La sociedad necesita desarrollar nuevas formas de alfabetización visual. Durante décadas, aprendimos a interpretar la publicidad, la fotografía y los medios audiovisuales. Ahora debemos comprender que ver ya no equivale necesariamente a creer. Esto implica conocer cómo funcionan los algoritmos y entender que las imágenes digitales pueden ser construcciones artificiales capaces de influir en nuestras emociones, opiniones y comportamientos.

Pero supone también algo más importante: promover una cultura basada en el respeto al consentimiento y a la dignidad de las personas. Porque el problema de los desnudos falsos creados mediante inteligencia artificial es que facilitan una forma de violencia visual y violencia de género que resulta más rápida, más barata y más difícil de controlar.

La tecnología ha conseguido crear cuerpos que nunca existieron. El reto que tenemos por delante es evitar que los daños que generan esas imágenes se conviertan en una nueva normalidad. Para lograrlo, quizá debamos empezar por reconocer que este debate no debe centrarse solo en la inteligencia artificial. Trata, sobre todo, de poder, de representación, de derechos y de igualdad en la sociedad digital del siglo XXI.

The Conversation

M. Mar Martínez-Oña no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.

– ref. De objeto de la mirada a objeto del algoritmo: el cuerpo femenino ante los ‘deepfakes’ – https://theconversation.com/de-objeto-de-la-mirada-a-objeto-del-algoritmo-el-cuerpo-femenino-ante-los-deepfakes-294996

Original source: https://submissions.mil-osi.com/2026/11/17/de-objeto-de-la-mirada-a-objeto-del-algoritmo-el-cuerpo-femenino-ante-los-deepfakes-294996/