La creciente utilización de la inteligencia artificial (IA) para crear deepfakes de contenido sexual no consensuado está generando una alarma mundial, además de ser un tema candente en Argentina. Recientemente, el gobierno del Reino Unido anunció la tipificación de un nuevo delito que penaliza la creación de imágenes de carácter sexual generadas por IA, focalizando en una problemática que afecta mayoritariamente a mujeres. Sin embargo, este fenómeno no solo amenaza la privacidad, sino que también revela una preocupante falta de legislación, especialmente en lo que respecta a la protección de adolescentes.

¿Qué son los deepfakes?

Los deepfakes son representaciones digitales creadas mediante tecnologías avanzadas de IA que producen imágenes o videos falsos pero aparentemente reales. Esta tecnología puede modificar la apariencia y la voz de una persona, haciendo que parezca que dice o hace algo que realmente no ocurrió. Si bien existen aplicaciones positivas en industrias como la cinematográfica, su uso indebido ha proliferado, especialmente en la creación de contenido pornográfico falso.

De acuerdo con el informe State of Deepfake 2023 de Security Hero, la producción de deepfakes pornográficos ha aumentado un asombroso 464% en el último año, y el 99% de este contenido tiene como víctimas a mujeres. En Argentina, se han reportado múltiples incidentes en escuelas de distintas provincias, poniendo de manifiesto la urgencia de una regulación adecuada.

Cuidados para proteger a los adolescentes de los deepfakes

La educación y la conciencia son claves en la prevención del impacto de los deepfakes. Algunas estrategias esenciales incluyen:

- Educación digital: Incluir en la currícula escolar temas sobre privacidad en línea y los peligros asociados a la IA.

- Uso seguro de redes sociales: Enseñar a los adolescentes sobre configuraciones de privacidad, cómo detectar comportamientos sospechosos, y la importancia de no compartir información o imágenes íntimas.

- Herramientas de detección: Fomentar el uso de aplicaciones y software que ayuden a identificar contenido manipulado.

- Acompañamiento parental: Establecer un diálogo abierto sobre los riesgos del mundo digital, creando un espacio de confianza en el que los adolescentes se sientan cómodos compartiendo sus experiencias.

El vacío legal en Argentina

Hoy por hoy, el Código Penal argentino carece de una figura específica que castigue la creación y difusión de deepfakes de contenido sexual. Algunos fiscales han intentado clasificar estos delitos bajo el artículo 128, que sanciona la tenencia y distribución de material de abuso sexual infantil, pero esto no se aplica a imágenes generadas por IA, complicando el proceso para lograr condenas efectivas.

Legislaciones como la Ley Olimpia, destinada a combatir la violencia digital contra las mujeres, han demostrado ser útiles. Esta normativa permite solicitar la eliminación de contenido en plataformas digitales, así como preservar pruebas para acciones legales futuras. No obstante, esta ley sólo protege a las mujeres, dejando desprotegidos a varones adolescentes que también pueden ser víctimas.

Pasos a seguir ante la difusión de deepfakes

Si se identifica un deepfake, es crucial seguir ciertos pasos recomendados:

- Resguardar evidencias: Conservar capturas de pantalla, enlaces y cualquier información relevante sobre la difusión del contenido.

- Denunciar: Presentar la denuncia ante las autoridades competentes o la Línea 144 en casos de violencia de género.

- Asesoramiento legal: Buscar la ayuda de expertos en ciberdelincuencia para evaluar posibles acciones legales.

- Apoyo psicológico: Priorizar el bienestar emocional de las víctimas y evitar actitudes que contribuyan a la revictimización.

Hacia una legislación más completa

Existen diversos proyectos de ley que buscan cerrar este vacío legal. Entre ellos se destaca la Ley Belén, que propone penalizar montajes producidos con IA y otras iniciativas que contemplan sanciones de hasta 6 años de prisión para quienes utilicen deepfakes sin consentimiento. Además, algunos países, como Corea del Sur e Inglaterra, han implementado leyes que tipifican como delito poseer y compartir imágenes y videos deepfakes de contenido sexual, con penas que pueden alcanzar 7 años de prisión y multas significativas. En España, se ha aprobado un anteproyecto que define como delito la ultra falsificación, que abarca la creación y distribución de videos, fotos o audios manipulados que pueden hacer creer que son reales.

La incorporación de contenidos sobre el uso responsable de las tecnologías digitales en la Educación Sexual Integral (ESI) se presenta como una estrategia clave para prevenir futuros incidentes. Estas medidas ayudarán a los adolescentes a identificar situaciones de riesgo y protegerse de las amenazas que plantea el entorno digital, fomentando una convivencia más segura y respetuosa en la era digital.