La pornografía deepfake ha captado la atención mundial, generando una discusión crítica sobre la inteligencia artificial (IA) y sus aplicaciones dañinas. Esta práctica involucra la manipulación digital de imágenes y videos, mostrando a individuos en situaciones que nunca han ocurrido. Las estrellas del K-pop, actrices surcoreanas y adolescentes son algunas de las principales víctimas, lo que resalta una preocupante tendencia en el uso de esta tecnología injustamente.

Un informe alarmante de la startup Security Heroes revela que de 95.820 videos pornográficos deepfake analizados, un asombroso 53% incluía a figuras famosas surcoreanas. Este dato sugiere un deseo particularmente dañino de atacar a mujeres en el ojo público, aunque el fenómeno no se limita a ellas. Adolescentes y mujeres que comparten fotos en redes sociales también se ven expuestas a esta invasión a su privacidad.

En Corea del Sur, los grupos de Telegram han proliferado con el objetivo de compartir y distribuir imágenes y videos deepfake, lo que ha llevado incluso a la creación de espacios donde se fomenta el abuso sexual. Los perpetradores están utilizando herramientas de IA para generar estas imágenes, las cuales son luego distribuidas junto con la información personal de las víctimas. Alrededor de 220.000 personas se han suscrito a un solo grupo de este tipo, según informes.

A pesar de los eventos traumáticos como el caso conocido como “Nth Room”, que involucró a cientos de jóvenes víctimas, y llevó a un despertar social por la violencia de género en el país, la implementación de leyes más estrictas se ha visto obstaculizada. Solo un 28% de los delincuentes digitales fueron procesados en 2021, lo que indica serios obstáculos en el sistema judicial para combatir estos crímenes.

Desde 2019, la preocupación ha aumentado considerablemente, especialmente después del escándalo que expuso la explotación de jóvenes a través de canales digitales. Las respuestas desde el gobierno han sido lentas; aunque se han propuesto nuevas regulaciones, aún no han sido aceptadas. Durante la reciente campaña presidencial, el actual presidente Yoon Suk Yeol sugirió que no existe discriminación estructural de género en el país, lo cual ha sido muy criticado por activistas y defensores de los derechos humanos.

Sin embargo, no todo es sombrío; Corea del Sur también muestra el lado positivo de la tecnología. En 2022, un centro de apoyo gubernamental desarrolló una herramienta capaz de detectar y eliminar deepfakes en tiempo récord, reduciendo el tiempo de respuesta de horas a solo minutos. Esta innovación ha sido reconocida internacionalmente, pero no es suficiente para resolver el problema de manera integral.

Aunque el gobierno ha comenzado a considerar nuevas leyes que penalicen la creación y distribución de deepfakes, la lucha contra este fenómeno requiere un enfoque multifacético. La concienciación pública sobre la violencia de género y sus manifestaciones digitales es más necesaria que nunca. Es fundamental no solo enfocar esfuerzos en el apoyo a las víctimas, sino también en la educación y en la implementación de políticas proactivas para prevenir estos abusos.

Debemos exigir responsabilidad a las plataformas digitales y fomentar una cultura de respeto y protección hacia todos los usuarios. La batalla contra la pornografía deepfake en Corea del Sur es solo una parte de un desafío mucho mayor que enfrentan las sociedades modernas en la lucha por la equidad y la seguridad en línea. ¿Estamos realmente preparados para enfrentar esta nueva era digital llena de peligros?