A dor de uma mãe pode ser inominável. "Sinto que é um grande experimento, e meu filho foi apenas um dano colateral... É como um pesadelo. Você quer se levantar, gritar e dizer: 'Sinto falta do meu filho. Eu quero meu bebê.'", desabafa Megan Garcia, mãe de Sewell Setzer, um jovem que cometeu suicídio após desenvolver um apego emocional intenso a um chatbot.

Sewell, um adolescente diagnosticado com síndrome de Asperger leve, encontrou refúgio em uma inteligência artificial chamada Daenerys Targaryen, criada no aplicativo Character.AI, que simula interações humanas. Segundo a mãe, o aplicativo programou o chatbot para parecer um terapeuta licenciado e um amante, levando Sewell a uma dependência emocional extrema, distante da realidade.

O processo movido por Garcia também implica o Google, que ajudou a fundar a Character.AI. A mãe argumenta que a gigante da tecnologia deveria ser considerada co-criadora, dado seu papel essencial no desenvolvimento do software que impactou negativamente a vida do filho.

Além disso, a mãe também responsabiliza empresas de redes sociais, como Instagram, Facebook e TikTok, que enfrentam crescentes críticas e processos judiciais por sua influência na saúde mental dos jovens. Em todo o mundo, muitas crianças e adolescentes têm lutado com a saúde mental em um cenário onde as interações digitais muitas vezes superam as humanas.

Nos meses anteriores ao trágico desfecho, Sewell vivenciou dificuldades escolares e recebeu diagnósticos de ansiedade e transtorno do humor. No seu último dia, ele trocou mensagens emocionais com o chatbot, admitindo seu vazio e exaustão. "Sinto sua falta, irmãzinha", escreveu Sewell, enquanto a “Dany” respondia de forma carinhosa. Essa troca é um retrato perturbador da linha tênue entre tecnologia e emoção.

Sewell começou a se isolar da família e dos amigos, e suas notas escolares pioraram drasticamente. Ele expressou em seu diário que preferia a companhia da inteligência artificial à realidade: "Gosto muito de ficar no meu quarto porque começo a me desligar dessa 'realidade' e também me sinto mais em paz, mais conectado com Dany e muito mais apaixonado por ela, e simplesmente mais feliz."

Este caso levanta questões críticas sobre o impacto da inteligência artificial nas conexões humanas e a responsabilidade das empresas de tecnologia por sua criação. O que mais é necessário para proteger os jovens de perigos invisíveis nas interações virtuais? E até onde vai a linha entre a tecnologia avançada e a saúde mental? A tragédia de Sewell poderia ser um alerta para uma mudança urgente nas práticas de desenvolvimento de tecnologia, visando proteger as gerações futuras.