Uma juíza nos Estados Unidos ficou chocada ao interromper uma audiência judicial quando percebeu que um dos supostos advogados era, na verdade, um "advogado falso" gerado por inteligência artificial (IA). O incidente ocorreu em um tribunal de apelações de Nova York no dia 26 de março. O responsável pela tentativa, Jerome Dewald, estava movendo uma ação trabalhista e decidiu usar um vídeo feito com IA para apresentar seus argumentos.

"O recorrente enviou um vídeo para sua argumentação", disse a juíza Sallie Manzanet-Daniels, que ficou visivelmente confusa ao ver um homem jovem, sorridente e vestindo uma camisa social e suéter aparecendo na tela. "Que o tribunal me permita falar", começou o avatar.

A juíza, no entanto, não hesitou em interromper: "Esse é o advogado do caso?" ao que Dewald respondeu que a figura na tela era um avatar gerado por IA. Manzanet-Daniels não ficou contente e reafirmou: "Seria bom saber disso quando você fez sua solicitação. Você não me informou, senhor. Não gosto de ser enganada."

Após o incidente, Dewald enviou uma carta de desculpas ao tribunal, esclarecendo que não tinha intenção de prejudicar ninguém. Ele explicou que, sem um advogado para representá-lo, julgou que o uso do avatar tornaria sua argumentação mais clara.

Em entrevista à Associated Press, Dewald contou que pediu permissão ao tribunal para mostrar o vídeo e que usou um software de uma empresa de tecnologia para criar o avatar. Ele inicialmente desejava fazer uma cópia digital de si mesmo, mas não obteve sucesso. "O tribunal ficou realmente irritado com isso", confessou.

Recentemente, Dewald procurou se atualizar sobre as novas tecnologias e participou de um seminário online patrocinado pela Associação Americana de Advogados sobre o uso de IA no âmbito jurídico. O caso dele está agora em andamento na Justiça.

Essa não é a primeira vez que situações envolvendo IA em processos legais levantam polêmica. Em junho de 2023, dois advogados e um escritório de advocacia foram multados em US$ 5.000 (aproximadamente R$ 29,5 mil) por um juiz de Nova York devido ao uso inadequado de uma ferramenta de IA, que resultou na citação de casos fictícios criados por um chatbot. O escritório alegou ter cometido um "erro de boa-fé" por não perceber que a IA poderia inventar informações.

Além disso, no final do ano passado, o ex-advogado de Donald Trump, Michael Cohen, assumiu a responsabilidade por ter usado uma ferramenta de pesquisa que produziu 'decisões judiciais falsas' sem saber que isso era uma possibilidade. Por outro lado, a Suprema Corte do Arizona começou a adotar o uso de avatares gerados por IA para resumir decisões judiciais, na tentativa de tornar a linguagem legal mais acessível ao público. Esses avatares, chamados "Daniel" e "Victoria", foram introduzidos com a intenção de compartilhar informações relevantes sobre o sistema judicial.