Redator de IA: Eleanor Vale Global Technology Editor

No universo jurídico, uma citação falsa não é um erro pequeno.[1][4] Ela pode desperdiçar o tempo de um juiz, distorcer um argumento e expor tanto o advogado quanto o escritório a sanções.[1][4][6] À medida que os sistemas generativos avançam nas rotinas de pesquisa e elaboração, a questão prática já não é mais se eles podem ser úteis. É se uma profissão fundada na verificação pode se dar ao luxo de tratar textos gerados por máquinas como se fossem pesquisas comuns.

Ações judiciais recentes indicam que a resposta é, cada vez mais, não.[1][4][6][11] Tribunais nos Estados Unidos sancionaram advogados e até escritórios após documentos conterem citações fabricadas e outras imprecisões geradas por IA, e um juiz federal na Pensilvânia afirmou que a penalidade foi um alerta para aqueles tentados pela velocidade[1][4][6] Também surgiu um padrão mais amplo: os profissionais do direito estão sendo informados de que o antigo hábito de “confiar, mas verificar” não é mais suficiente quando o próprio sistema pode inventar autoridades.[9]

A razão técnica é desconfortável, mas clara. Grandes modelos de linguagem não recuperam a verdade da mesma forma que um banco de dados; eles geram linguagem ao prever os próximos tokens mais prováveis, o que faz com que a fabricação fluente seja um modo natural de falha e não um erro excepcional.[2][10] Uma revisão de pesquisa sobre ferramentas jurídicas de IA revelou que até sistemas avançados ainda produzem material falso ou enganoso, enquanto uma análise separada de LLMs de uso geral encontrou taxas de alucinação que variam de 58% a 82% no contexto da pesq[2][10] O número exato varia por modelo e tarefa, mas o ponto estrutural não: confiança não é o mesmo que correção.

Essa distinção é importante porque o mercado legal tem vendido velocidade como sinônimo de eficiência. Se um assistente pode resumir jurisprudência, elaborar petições ou destacar precedentes em segundos, o incentivo é claro para advogados sobrecarregados e escritórios sob pressão por honorários.[2][4][6] Ainda assim, a economia muda quando o custo de checar cada citação é reinserido. Nesse sentido, a IA não eliminou o trabalho, mas o transferiu para o downstream, da composição para a verificação, onde o serviço é menos visível e, em um tribunal, muito mais decisivo.

Normas profissionais já estão se ajustando.[9][4] Editoras jurídicas e plataformas de pesquisa agora enfatizam um padrão mais rigoroso: não confie até que esteja verificado.[9][1] Isso é mais que um slogan. Implica um novo modelo operacional em que a produção da IA é tratada como um rascunho não confiável, não como pesquisa, e onde o advogado mantém a responsabilidade pessoal por toda autoridade apresentada ao tribunal.[8][11] A profissão não abandonou a IA; está aprendendo a colocar um controle humano no fim da cadeia, onde a responsabilidade ainda pode ser atribuída.

O impacto comercial vai além dos escritórios de advocacia. Empresas que utilizam IA em suporte ao cliente, conformidade ou funções consultivas enfrentam o mesmo problema em outro cenário: uma única resposta incorreta pode desencadear reembolsos, reclamações, exposição regulatória ou perda de confiança difícil de re[3][5][7] Em ambientes voltados ao consumidor, a alucinação não é apenas um defeito técnico. É um evento reputacional. Por isso, executivos devem pensar menos se o modelo soa persuasivo e mais sobre se conseguem provar a origem de cada resposta.

O que ainda não está claro é o quanto o sistema jurídico vai avançar na padronização dessa nova carga de prova. Os tribunais vão exigir certificação explícita de que o trabalho assistido por IA foi verificado pessoalmente?[8][11] Os escritórios de advocacia vão criar camadas formais de revisão para cada petição auxiliada por modelo?[8][11] E os fornecedores serão cobrados a garantir confiabilidade em domínios onde a probabilidade, e não a certeza, é a linguagem nativa?[2][9][10] As evidências até agora indicam que uma verificação mais rigorosa é inevitável, mas a forma institucional dessa mudança ainda está sendo negociada.

Existe também uma questão mais profunda sobre a própria linguagem. Um modelo probabilístico não foi projetado para saber quando ele não sabe.[2][10] Ele foi projetado para continuar.[2][10] Por isso, as alucinações não podem ser simplesmente eliminadas com melhores comandos ou uma promessa de marketing sobre precisão. Sistemas de recuperação, barreiras de proteção e revisão humana podem reduzir o risco, mas não abolir.[2][9][10] Em domínios de alto risco, o ônus passa do modelo para a organização que o utiliza.

Essa é a real história: não que a IA possa mentir, mas que instituições modernas estão descobrindo o quão caro é quando softwares produzem falsidades plausíveis em larga escala. Os tribunais estão respondendo primeiro porque mantêm um registro de consequências.[1][4][6][11] Outros setores seguirão, estejam preparados ou não. A lição duradoura é que a adoção da IA hoje depende menos da fluência e mais da responsabilidade, e a próxima fase do mercado vai premiar sistemas que tornam a verificação mais barata, não apenas a geração mais rápida.