O legislativo da Coreia do Sul acaba de aprovar uma lei revolucionária que criminaliza a produção, posse e visualização de deepfakes sexualmente explícitos. Essas imagens e vídeos manipulados têm gerado indignação na sociedade sul-coreana, especialmente devido aos grupos de chat no Telegram, onde conteúdos ilegais foram criados e distribuídos de maneira alarmante.

A nova legislação estabelece penas severas: quem for flagrado comprando, armazenando ou assistindo a esse tipo de material pode enfrentar até três anos de prisão ou uma multa de até 30 milhões de won (aproximadamente US$ 22.600). Os criadores de deepfakes explícitos com intenção de distribuição enfrentam punições ainda mais severas, com até cinco anos de prisão ou multas de 50 milhões de won (cerca de US$ 37.900).

O que são deepfakes sexualmente explícitos?

Deepfakes são vídeos ou imagens gerados por um algoritmo de Inteligência Artificial, que troca rostos de indivíduos em cenas sem seu consentimento e frequentemente para manipulação maliciosa. Embora esta tecnologia possa ser utilizada para entretenimento e fins educacionais, o uso indevido para criar pornografia não consensual tem se tornado uma séria preocupação.

Com a nova lei, a pena máxima para crimes desse tipo será aumentada para sete anos de prisão, independentemente da intenção inicial dos infratores, assim que receber a aprovação do presidente Yoon Suk Yeol. Este é um passo fundamental para combater o uso de deepfakes em crimes e proteger especialmente os adolescentes, que muitas vezes estão entre os maiores afetados e os que perpetuam essa violência digital.

Por que os deepfakes representam uma ameaça global?

A proliferação de deepfakes é uma questão séria em todo o mundo. A preocupação tem levado diversas nações a encontrar respostas legais. Nos Estados Unidos, debates no Congresso incluem legislações que permitiriam que vítimas de deepfakes sexuais não consensuais processassem seus criadores, além de normas que criminalizariam a distribuição desses conteúdos, exigindo que plataformas de tecnologia removam automaticamente esses materiais.

Quais outras nações estão agindo?

Além da Coreia do Sul, diversas nações estão se mobilizando. Recentemente, a plataforma de mídia social X precisou bloquear buscas relacionadas a Taylor Swift após a divulgação de deepfakes da artista. Isso sublinha a necessidade urgente de as redes sociais e empresas de tecnologia atuarem de forma proativa na eliminação de deepfakes prejudiciais.

Nos últimos anos, a sociedade tem se tornado mais consciente dos riscos e danos que essa tecnologia pode causar, levando a um apelo crescente por legislações que protejam a privacidade e a dignidade das pessoas. À medida que a tecnologia avança, os desafios aumentam, e é imperativo que medidas rigorosas sejam implementadas para garantir um ambiente digital seguro para todos.

Com o aumento das preocupações, espera-se que mais países sigam o exemplo da Coreia do Sul, implementando legislações semelhantes que abordem a problemática dos deepfakes. A luta contra essa nova forma de crime digital é uma batalha contínua que requer atenção constante das autoridades e da sociedade. A proteção da dignidade humana no ambiente digital é um desafio que todos devemos enfrentar juntos.