A startup de inteligência artificial Character.AI, cofundada por Daniel de Freitas, está no centro de uma controvérsia legal após a morte trágica de um jovem. O processo, que também inclui o Google, da Alphabet, alega que as interações do jovem com a plataforma contribuíram para sua morte. Isso levanta sérias questões sobre a responsabilidade das empresas de tecnologia no que diz respeito à saúde mental dos usuários.

Quem é Daniel de Freitas

Daniel de Freitas, um dos brasileiros mais proeminentes no cenário tecnológico, viu sua fortuna disparar após um acordo estratégico com o Google. Sua empresa, a Character.AI, que permite conversas com personalidades famosas, foi avaliada em R$ 16,8 bilhões (US$ 3 bilhões) após a gigante da tecnologia licenciar sua tecnologia. Com isso, ele se tornou o primeiro bilionário do setor de inteligência artificial na lista da Forbes 2024.

Freitas cofundou a Character.AI com Noam Shazeer, também ex-Google. O sucesso da plataforma, que possibilita interações com figuras públicas, ampliou o debate sobre as implicações éticas de suas tecnologias. O New York Times informou, ainda no ano passado, que a valuation da startup era de cerca de R$ 5,6 bilhões (US$ 1 bilhão).

O acordo com o Google não apenas elevou a startup, mas também catapultou Freitas ao topo da lista dos bilionários brasileiros, ao lado de nomes como Eduardo Saverin, cofundador do Facebook. A trajetória profissional do empresário começou cedo, aos nove anos, quando desenvolveu seu primeiro chatbot. Desde então, sua carreira passou por gigantes como Microsoft e Google, onde trabalhou em projetos de IA cruciais.

Uma de suas contribuições mais notáveis no Google foi a liderança do projeto LaMDA, que focava no desenvolvimento de chatbots avançados. Essa experiência foi fundamental para a criação da Character.AI, uma plataforma que agora enfrenta críticas por possíveis impactos na saúde mental de seus usuários.

Freitas, atualmente, também atua como pesquisador no Google DeepMind, divisão que se destaca por suas pesquisas em inteligência artificial e que desenvolveu tecnologias revolucionárias, como o AlphaGo.

No entanto, a controvérsia sobre os efeitos das interações na plataforma de Freitas levanta questões importantes: até que ponto as empresas de tecnologia devem ser responsabilizadas pelo bem-estar psicológico de seus usuários? Com um aumento crescente de preocupações sobre saúde mental, essa situação somente reforça a necessidade de regulamentação e responsabilidade nas inovações tecnológicas. Entre os desdobramentos, a indústria pode se ver forçada a reavaliar os limites éticos do uso de inteligência artificial em interações humanas.