En un mundo interconectado y digitalizado, las redes sociales son un escenario donde los jóvenes expresan sus vidas, pero ¿hasta dónde llega el riesgo de compartir información personal? "Tus fotos e información personal han sido filtradas. Discutámoslo", fue el aterrador mensaje que Heejin, una universitaria de Corea del Sur, recibió junto a una imagen manipulada de su rostro en un cuerpo desnudo. Este caso se ha vuelto representativo de una preocupante tendencia: el uso malintencionado de la Inteligencia Artificial para crear contenido pornográfico falso.

Heejin, cuya identidad fue protegida, continuó recibiendo insidiosas imágenes de ella en situaciones sexuales, generadas por una aplicación de IA. Este fenómeno no se limita a una sola persona; es un problema que afecta a muchas jóvenes, pues grupos de hombres han estado utilizando software de deepfake para denigrar a mujeres al poner sus rostros en escenas explícitas.

Un caso destacado ocurrió en el Colegio Saint George’s, en Vitacura, Chile, donde varias estudiantes fueron confluidas de la misma manera. Esto revela la extrema vulnerabilidad que enfrentan las jóvenes en el mundo digital. La situación ha escalado fuertemente, y países como Corea del Sur están considerando tomar medidas drásticas contra los perpetradores de este tipo de acoso.

La periodista surcoreana Ko Narin destapó un oscuro fenómeno al descubrir canales de chat en Telegram donde los usuarios compartían imágenes de mujeres para convertirlas instantáneamente en contenido pornográfico. Lo impactante no solo es que las víctimas hasta incluyen menores de edad, sino que los depredadores han organizado “salas de humillación” específicamente para compartir imágenes de sus víctimas. En uno de estos grupos, se encontró un número alarmante de participantes: más de 2,000 miembros dedicados a la explotación de jóvenes inocentes.

Heejin, víctima del deepfake, compartió su angustia: sentía que su privacidad había sido violada y experimentó una profunda ansiedad al preguntarse cuántas personas habían visto sus imágenes manipuladas. El efecto en la salud mental de las víctimas es devastador. Muchas jóvenes, incluyendo a Ah-eun, se sienten frustradas y enojadas por la necesidad de censurar sus vidas en redes sociales, a pesar de no haber hecho nada malo.

El desafío no solo es el espectro del acoso, sino también la respuesta de las autoridades. Cuando una estudiante se acercó a la policía para denunciar el uso ilícito de su imagen, la respuesta fue desalentadora: era "demasiado difícil atrapar al autor", y consideraron que no era un delito serio por tratarse de "fotos falsas". Sin embargo, el incremente de los reportajes sobre este tema ha provocado un clamor por cambios significativos en las regulaciones y penalizaciones por la creación y distribución de contenido deepfake.

La Agencia Nacional de Policía de Seúl ha comenzado a investigar Telegram y otros medios en línea que facilitan la propagación de estas imágenes. Además, el presidente surcoreano, Yoon Suk-yeol, ha pedido a las familias que eduquen mejor a sus hijos sobre el uso responsable de la tecnología.

Mientras tanto, especialistas y terapeutas advierten sobre lo que implica vivir en un mundo donde el deepfake se ha convertido en parte de la cultura juvenil. Para muchos adolescentes, esta práctica se considera un juego, lo que agrava la vulnerabilidad de las mujeres y niñas. La pregunta que resuena es: ¿qué se puede hacer para brindar un entorno seguro donde las jóvenes se sientan protegidas y valoradas? Las voces continuarán alzándose hasta que se logren medidas efectivas que enfrenten esta alarmante tendencia.