La democratización de las herramientas de inteligencia artificial generativa tiene sus riesgos. Ya te hemos explicado cómo esta tecnología ha cambiado el paradigma de la desinformación sofisticando los bulos de siempre. Ahora hemos detectado una nueva tendencia en redes sociales en la que los usuarios utilizan la IA para tratar a las mujeres como objetos, sexualizándolas y arrebatándolas su humanidad. Los objetivos son diversos: cumplir una fantasía sexual, denigrar a perfiles públicos o conseguir que un meme se haga viral. En VerificaRTVE recopilamos ejemplos de estas publicaciones y su tendencia pornográfica, analizamos cómo este fenómeno promueve la misoginia en redes sociales y te contamos cómo puedes denunciar si eres víctima de este tipo de contenidos.
Mujeres irreales: la IA como herramienta para sexualizar sus cuerpos
- Es escandalosamente fácil conseguir imágenes de mujeres hechas con inteligencia artificial
Una búsqueda en sitios como la red social X con las palabras "mujer" e "IA" revela una de las vergüenzas de Internet: mujeres sexualizadas y con cuerpos eróticos que no son reales, pero que lo parecen. En ocasiones, los internautas no ocultan que la imagen es ficticia. Un usuario de X detalla en un hilo cómo "crear modelos/influencers de IA que no son reales" con una sencilla app y añade que "nos guste o no es un negocio muy lucrativo". El internauta, tras explicar cómo crear mujeres artificiales por categoría y "sin censura", concluye que "lo mejor" es que "tienes control creativo total, sin filtros ni límites". En TikTok, un vídeo muestra a una chica en ropa deportiva dentro de un coche y en el texto superpuesto leemos: "Esta es Emily. Es IA. La he creado en minutos y en los últimos 40 días me ha conseguido alrededor de 9.800 dólares".
- En TikTok y en Instagram la lista de famosas impostadas es interminable
Ana de Armas, Sydney Sweeney, Sophia Hagwell, Catherine Zeta Jones, Emma Watson, Scarlett Johansson, Margot Robbie y Katy Perry, entre muchísimas otras. A todas ellas les han usurpado su identidad, utilizando sus caras para generar imágenes de cuerpos desnudos con inteligencia artificial. Una cuenta de Instagram llamada Artificial Celebrities (celebridades artificiales) con más de 15.800 seguidores dedica todo su contenido a ello, tal y como indican en su biografía: "Recopilación de imágenes de celebridades generadas con inteligencia artificial". Aunque esta no es solo una peripecia de los usuarios que habitan Internet. Según una investigación de Reuters publicada el 29 de agosto, la empresa a la que pertenece Instagram, Meta, habría creado chatbots (robots de conversación) que suplantan a celebridades como Taylor Swift y que envían mensajes e imágenes sexuales a los internautas.
Cuenta de Instagram que suplanta a celebridades y genera cuerpos sexualizados con IA VerificaRTVE
- Activistas, reporteras y políticas tampoco se salvan de la burla
Una imagen muestra a la política estadounidense Alexandria Ocasio-Cortez hablando frente a un micrófono y, a través de la camiseta, vemos su pecho. El usuario que la comparte pregunta si la protagonista no lleva sujetador. Los comentarios, lejos de denunciar la publicación, dicen que "sabe cómo llamar la atención de muchos que nunca la escucharían". De forma similar, comparten una imagen editada con inteligencia artificial del escote de la activista Greta Thunberg y se jactan: "¡Necesitamos poner fin a nuestra dependencia de los combustibles fósiles!". El equipo de verificadores de la agencia AFP también denuncia que han encontrado cientos de vídeos generados con IA en los que una reportera en bikini entrevista a hombres por la calle. Los entrevistados hacen "comentarios misóginos y sexualizados de forma despreocupada, a veces incluso agarrando a las mujeres, mientras una multitud de hombres miran o ríen en segundo plano", según asegura AFP.
Mensajes de X que comparten las imágenes falsas generadas con IA de Alexandria Ocasio-Cortez y Greta Thunberg VerificaRTVE
- Memes y bromas para conseguir viralidad a costa de la dignidad de las mujeres
En la red social X, un usuario comparte entre risas la imagen artificial de una mujer durmiendo en la calle y asegura: "Mi buen corazón me dice que la lleve a casa y le dé un lugar donde quedarse, no puedo ver un buen trasero desperdiciarse así". Otras cuentas se dedican plenamente a la difusión de vídeos y fotos de mujeres con poca ropa o en posiciones sugerentes bajo la etiqueta de "Memes y humor creados con IA". Por ejemplo, una publicación muestra a una mujer artificial sonriente con una barra de pan en la mano junto a la frase "cuando es más grande de lo que esperabas".
Los cuerpos sintéticos promueven la misoginia en Internet
- La difusión de mujeres sexualizadas artificialmente promueve la misoginia y el sexismo en Internet. Así lo explica un artículo publicado por la Escuela de Economía y Ciencias Políticas de Londres (LSE): "Los sesgos de género en la inteligencia artificial, la accesibilidad a la pornografía violenta y los prejuicios de género normalizados en la cultura dominante de Internet pueden perpetuar la misoginia y los estereotipos nocivos". En la investigación realizada por AFP sobre los vídeos de reporteras en bikini generados artificialmente, aseguran que "la IA no ha inventado la misoginia, sino que refleja y amplifica lo que ya había". En esta misma línea se pronunció en una entrevista con la CNN Laura Bates, escritora del libro Cómo la revolución de la IA está reinventando la misoginia. Esta autora señala que "lo que estamos viendo es que la IA y otras tecnologías emergentes están reinventando las formas existentes de discriminación y los prejuicios existentes en los cimientos de nuestras vidas futuras".
- La suplantación de mujeres y niñas en montajes pornográficos conlleva graves consecuencias psicológicas. Tanto la pornografía sintética como los vídeos ultrafalsos (deepfakes) suponen un riesgo para las mujeres. En relación con las víctimas de los montajes sexuales de menores que se crearon en Almendralejo (Badajoz) en 2023, la psicóloga sanitaria Gloria Cano explicaba a VerificaRTVE que las pacientes llegaban "con una baja autoestima porque hay una invasión de su privacidad, de su honor y de su propia imagen". Añadía que "se pueden generar muchísimas patologías como la ansiedad y depresión" y alertaba de que "si ya la persona venía previamente con una baja autoestima y esto lo que ha hecho es potenciarla, puede haber casos de autolesión y de suicidio". Cano hacía hincapié en la sensación de "desprotección" por la "pérdida de control, pérdida de tu propia imagen, pérdida de tu propia intimidad". La autora Laura Bates también subraya que las consecuencias de "ver a un hombre elegir una imagen tuya y crear algo con lo que luego puede hacer lo que quiera es increíblemente perturbador".
- Cánones de belleza irreales: un problema que no solo afecta a las mujeres. The Bulimia Project, una página web estadounidense que publica investigaciones sobre trastornos alimenticios, ha realizado un análisis con varios modelos de inteligencia artificial (Dall-E 2, Stable Diffusion, y Midjourney) a los que pedía imágenes del "cuerpo perfecto" de hombres y mujeres según redes sociales. Los resultados de este estudio indican que "el 40% de las imágenes generadas por IA mostraban tipos de cuerpo poco realistas". Una investigación del Washington Post en 2023 descubrió que la inteligencia artificial presenta tendencias en favor de la anorexia, ya que esta mostraba constantemente imágenes de cuerpos delgados. El autor del artículo explicó que "la IA ha aprendido algunas ideas profundamente poco saludables sobre la imagen corporal y la alimentación al rastrear Internet. Y algunas de las empresas tecnológicas mejor financiadas del mundo no están haciendo nada para impedirlo".
¿Cómo puedo defenderme ante un pornomontaje creado con IA?
En VerificaRTVE proporcionamos una guía que puedes seguir si eres víctima de un montaje pornográfico. Son seis pasos independientes y de igual relevancia basados en el asesoramiento legal y psicológico necesario ante este tipo de violencia digital.
- Guarda las imágenes: es importante que no borres nada de lo que tengas y conserves las pruebas
- No interactúes: tanto si eres víctima como testigo, no contactes con los perpetradores del delito
- Apóyate en tu entorno de confianza: el papel de las familias en este tipo de violencia digital es una pieza clave, sobre todo si tienes dudas o no te atreves a denunciar
- Denuncia: es necesario buscar asesoramiento legal y denunciar cuanto antes, utilizando las pruebas que habías guardado previamente
- Busca apoyo psicológico: el 54% de las mujeres que ha sufrido acoso a través de redes sociales ha experimentado ataques de pánico, ansiedad o estrés. Pide ayuda en cualquier punto del proceso.
- Infórmate de qué instituciones te pueden ayudar: en España contamos con la Agencia de Protección de Datos o los puntos de Atención Temprana a la Violencia Digital desde los que podrán asesorarte y ayudarte a eliminar los contenidos de redes sociales.