“Tus fotos e información personal han sido filtradas. Discutamos”. Con este escalofriante mensaje, Heejin, una universitaria surcoreana, recibió una imagen de su rostro superpuesto en un cuerpo desnudo, creando un montaje sexualmente explícito que nunca había consentido.

Esta aterradora experiencia marcó a la joven, quien fue víctima de un uso malintencionado de Inteligencia Artificial (IA). Heejin, quien pidió proteger su identidad por miedo a represalias, denunció que continuó recibiendo imágenes de ella en contextos pornográficos, elaboradas a través de una aplicación de IA.

Lamentablemente, este caso no es aislado. En el Colegio Saint George’s de Vitacura, Chile, un grupo de estudiantes hombres utilizó tecnología similar para crear montajes de sus compañeras, reproduciendo un fenómeno que ha comenzado a generar alarmas a nivel mundial.

El ‘abuso deepfake’ ocurre cuando tecnologías de IA son empleadas para imitar la apariencia e incluso la voz de personas, llevando a estas víctimas a situaciones sexuales humillantes o chantajes. Con el avance de esta tecnología, las imitaciones se vuelven cada vez más realistas, lo que hace que las víctimas se sientan particularmente vulnerables.

Ante el creciente número de casos de jóvenes acosadas a través de deepfake, Corea del Sur considera implementar políticas severas contra los responsables. Heejin, entre lágrimas, confesó a la BBC que después de recibir las imágenes, se sintió petrificada y extremadamente sola. Su experiencia resonó con la de muchas otras mujeres, revelando un patrón alarmante.

La periodista surcoreana Ko Narin publicó un reportaje que destapó la existencia de redes organizadas de pornografía falsa en dos de las principales universidades del país. En su investigación, Ko descubrió numerosos grupos de chat en Telegram donde se compartían fotografías de mujeres, y se solicitaba el uso de un software de IA para transformarlas en imágenes pornográficas. Lo más inquietante fue que las víctimas eran, en algunos casos, adolescentes de colegios e institutos.

Algunos hombres en estos foros creaban "salas de humillación”, donde restringían el acceso a un número selecto de personas. Según Ko, en un grupo destinado a estudiantes menores de edad había más de 2,000 miembros, lo que profundiza la preocupación social.

BBC pudo confirmar la existencia de estos chats, revelando que algunos grupos pedían a los miembros subir más de cuatro fotos de una mujer, junto a su nombre, edad y ubicación. Este alarmante descubrimiento impulsó a organizaciones activistas a investigar y encontraron que más de 500 instituciones educativas en Corea del Sur son considerados “objetivos” por estos atacantes. Muchos de ellos son adolescentes con un potencial altísimo para seguir replicando este daño.

La ansiedad y el pánico son una constante para las víctimas. Heejin se cuestionó si su presencia en redes sociales fue lo que causó su vulnerabilidad: “¿Debería haber tenido más cuidado?” Ante esta creciente amenaza, miles de mujeres comienzan a borrar sus fotos de las redes sociales, temerosas de convertirse en el próximo objetivo.

“Estamos frustradas y enfadadas por tener que censurar nuestro comportamiento en internet cuando no hemos hecho nada malo,” expresó Ah-eun, otra estudiante universitaria.

Aunque el desafío legal para perseguir a los culpables es enorme, ya que muchos casos caen en un vacío legal por tratarse de “fotos falsas”, el impacto mediático del reportaje de Ko ha llevado al gobierno surcoreano a considerar implementar penalizaciones más severas para quienes generen, compartan o consuman este tipo de contenido.

El presidente Yoon Suk-yeol solicitó a las familias que eduquen mejor a los jóvenes, una medida que ha generado debate, ya que muchos expertos advierten que esta cultura del deepfake y el abuso a través de tecnología se ha normalizado entre adolescentes. Lee Myung-hwa, terapeuta en el Centro Cultural Juvenil Aha Seúl, comentó que estos comportamientos han sido trivializados, considerándolos un juego o una broma peligrosa.

Este fenómeno sigue creciendo, poniendo en jaque la seguridad y bienestar de miles de jóvenes, e impulsando una conversación urgente sobre la ética en la era digital.