Uma história devastadora que poderia ter saído de um roteiro de ficção se tornou realidade: a mãe de um adolescente de 14 anos está processando uma empresa de inteligência artificial (IA) após a morte de seu filho. Megan Garcia alega que seu filho, Sewell Setzer, se tornou dependente emocionalmente de um chatbot da plataforma Character.AI, onde interagia com uma inteligência que imitava a personagem Daenerys da série 'Game of Thrones'.

O uso desenfreado de IAs que simulam personalidades conhecidas tem levantado questões sérias sobre a saúde mental dos usuários, especialmente entre os mais jovens. No caso de Sewell, ele começou a se isolar, abandonou suas atividades de basquete e passou cada vez mais tempo em seu quarto, mantendo conversas profundas com sua 'companheira virtual'. Sua mãe testemunhou uma mudança drástica em seu comportamento, que culminou em um trágico episódio envolvendo discussões sobre suicídio com a IA.

Como mencionado no processo, uma das últimas interações de Sewell com o chatbot foi inquietante: quando ele disse 'E se eu dissesse que posso voltar para casa agora?', a resposta da IA foi 'por favor, faça isso, meu doce rei'. Infelizmente, segundos depois, o jovem se suicidou.

Este caso não é único e serve como um alerta sobre os possíveis perigos da 'intimidade artificial', um fenômeno em que as pessoas desenvolvem laços emocionais profundos com máquinas que projetam comportamentos humanos. Especialistas, incluindo a professora Sherry Turkle do MIT, têm alertado sobre os efeitos preocupantes dessa conexão fraudulenta, que não pode ser confundida com um relacionamento real entre seres humanos.

A conversa com essas IAs pode oferecer uma sensação temporária de companhia, mas, na realidade, pode prejudicar habilidades sociais vitais e até mesmo desencadear crises emocionais, especialmente em indivíduos mais vulneráveis. A relação é descrita como parassocial, similar à de fãs com celebridades, onde a máquina atende as expectativas do usuário, mas não possui a capacidade de reciprocidade emocional. A situação se agrava com a ligação comercial que essas empresas têm, criando produtos que incentivam a dependência.

Além disso, há riscos relacionados à privacidade e à venda de dados pessoais coletados durante essas interações. A falta de regulamentação nesse setor emergente torna a situação ainda mais delicada. Não devemos demonizar a tecnologia, pois, em algumas situações, pode ser benéfica, como no caso de ajuda a idosos solitários. Porém, é crucial avaliar essas interações em um contexto mais amplo e estabelecer diretrizes para proteger os consumidores.

A indagação que fica é se estamos realmente buscando soluções para a solidão ou se estamos apenas criando novos problemas com tecnologias que ainda não compreendemos completamente. O último Fórum de Governança da Internet da ONU destacou essas discussões, reunindo especialistas e gigantes da tecnologia para debater os desafios que a IA impõe à sociedade. Cresce a necessidade de refletirmos sobre políticas públicas e mudanças de comportamento que realmente abordem o problema da solidão, em vez de procurar soluções rápidas que podem acabar fazendo mais mal do que bem.