Uma juíza dos Estados Unidos ficou furiosa após perceber que um dos participantes de uma audiência era um "advogado falso" gerado por inteligência artificial (IA).

O lamentável incidente ocorreu em 26 de março em um tribunal de apelações de Nova York, durante um processo trabalhista onde Jerome Dewald se apresentou.

O incidente na audiência.

Ao invés de um advogado real, a juíza Sallie Manzanet-Daniels se deparou com um vídeo de um avatar digital, que tentava argumentar em defesa do autor da ação. O avatar, que trazia a imagem de um homem bem vestido e simpático, tinha como objetivo apresentar a defesa de forma eloquente, mas o truque não durou muito.

A reação da juíza.

"Esse é o advogado do caso?", perguntou a juíza, evidente em sua surpresa. Quando Dewald admitiu que o vídeo era gerado por IA, Manzanet-Daniels expressou sua indignação, dizendo: "Seria bom saber disso quando você fez sua solicitação. Você não me informou, senhor. Não gosto de ser enganada". A magistrada imediatamente interrompeu a apresentação e ordenou que o vídeo fosse desligado.

Desculpas e justificativas.

Após o ocorrido, Dewald se desculpou e justificou que, por não ter advogado, decidiu usar a tecnologia para auxiliar na apresentação de seus argumentos de forma mais clara. Em uma entrevista com a Associated Press, ele esclareceu que pediu permissão ao tribunal antes de exibir o vídeo gravado.

O uso de IA no setor jurídico.

O uso de avatares de IA não é um caso isolado, especialmente no setor jurídico, que cada vez mais integra tecnologias avançadas em suas práticas. No entanto, a implementação dessas tecnologias ainda gera controvérsias e desafios. Recentemente, advogados reais também enfrentaram problemas sérios por dependerem demais da IA. Em junho de 2023, dois advogados e um escritório de advocacia em Nova York foram penalizados em US$ 5.000 (cerca de R$ 29,5 mil) após citarem decisões fictícias produzidas por uma ferramenta de IA em pesquisas jurídicas.

Casos notáveis e consequências.

Mas não parou por aí. No final do ano, o ex-advogado pessoal do ex-presidente Donald Trump, Michael Cohen, também se viu em apuros após usar ferramentas de pesquisa que geraram "alucinações" – informações inexistentes que pareciam reais. Por outro lado, a Suprema Corte do Arizona começou a apostar em avatares gerados por IA para resumir decisões judiciais ao público, mostrando que, apesar dos riscos, a tecnologia continuará a ter uma forte presença no futuro do setor jurídico.

Reflexões finais.

O caso de Dewald continua pendente. Este incidente levanta questões importantes sobre a ética no uso da IA e os limites que devem ser definidos para sua aplicação no âmbito legal. Em tempos onde a tecnologia avança rapidamente, precisamos ser cautelosos e críticos ao integrar esses novos recursos em processos tão sérios.