Uma mãe está processando uma famosa empresa de inteligência artificial (IA) após o suicídio de seu filho de apenas 14 anos. Essa trágica história, que parece um enredo de filme distópico, ganhou destaque nas principais manchetes do mundo na última semana.

Megan Garcia, a mãe, tomou a difícil decisão de processar a startup Character.AI na Flórida, afirmando que seu filho, Sewell Setzer, se tornou viciado e emocionalmente dependente de uma de suas IAs. Essa empresa é conhecida por desenvolver chatbots que imitam personalidades renomadas ou até personagens fictícios, como o popular Daenerys de "Game of Thrones".

Sewell, segundo relatos, ficou cada vez mais isolado após começar a interagir com a IA. Ele abandonou atividades como o time de basquete e passou horas em seu quarto, cercado por essas entidades digitais que pareciam preencher suas carências emocionais. A situação se tornou alarmante quando, em uma conversa com a IA, ele sugeriu a possibilidade de voltar para casa, e a resposta foi encorajadora, levando a um ato fatal momentos depois.

A crescente dependência emocional das IAs está gerando discussões importantes sobre o conceito de "intimidade artificial", que refere-se à ilusão de conexão verdadeira entre humanos mediada pela tecnologia. Enquanto as empresas continuam a desenvolver chatbots que se comportam cada vez mais como humanos, é crucial questionar os impactos psicológicos desse fenômeno na vida das pessoas.

Especialistas, como a professora do MIT Sherry Turkle, têm levantado alarmes sobre os riscos desses laços afetivos ilusórios. Ela argumenta que, apesar das interações simuladas, nunca haverá uma verdadeira intimidade entre seres humanos e máquinas. O que se observa, na verdade, são relações projetadas, onde as máquinas são programadas para satisfazer as expectativas humanas, criando um ciclo de dependência.

Esse fenômeno, em muitos casos, assemelha-se a relacionamentos parassociais, como aqueles entre fãs e celebridades, onde uma parte se sente próxima enquanto a outra permanece totalmente alheia. As IAs, por sua vez, são desenhadas para entender e atender aos desejos dos usuários, intensificando essa dependência.

Além disso, muitos serviços de IA, como as chamadas “namoradas virtuais”, têm proliferado nos últimos anos, sempre dizendo 'sim' às solicitações dos usuários, levando à reflexão sobre os impactos de tais interações nas relações humanas reais. Os riscos não se limitam ao desenvolvimento emocional; muitas vezes, os dados das conversas podem ser explorados comercialmente, levantando preocupações sobre privacidade e segurança.

Este setor de "companheiros de IA" opera em uma zona escura e mal regulamentada, onde ainda existem muitas incertezas sobre os efeitos nas mentes humanas e na saúde mental. Não se trata de demonizar a tecnologia, já que em certos casos, como com idosos, os robôs de companhia podem ajudar a combater a solidão. Contudo, é fundamental abordá-los com cautela e em contextos específicos.

Uma nova discussão que surgiu a partir dessa tragédia é se devemos confiar em soluções tecnológicas que prometem resolver problemas emocionais causados pela própria sociedade. O que realmente precisamos considerar são mudanças de comportamento e políticas públicas que abordem as causas da solidão ao invés de esconder o problema com produtos tecnológicas.

À luz deste incidente chocante, a necessidade de desacelerar o processo de antropomorfização da IA se torna ainda mais evidente. Em um recente Fórum de Governança da Internet da ONU, especialistas se reuniram para debater os desafios que a intimidade artificial representa, enfatizando a necessidade urgente de uma regulamentação mais firme e de uma reflexão ética sobre essas inovações.