Alucinações de IA: como um defeito técnico se tornou risco jurídico real em 2026

Em fevereiro de 2026, um escritório de advocacia do Am Law 100 — o ranking das maiores firmas dos Estados Unidos — foi acusado de apresentar petição judicial repleta de alucinações geradas por inteligência artificial. Não é a primeira vez. Mas agora, com o EU AI Act em vigor e legislações estaduais americanas entrando em vigência, o custo de confiar cegamente em outputs de IA deixou de ser reputacional e passou a ser jurídico, financeiro e regulatório.

O problema das alucinações: números em queda, risco em alta

Alucinações de IA — respostas factualmente incorretas, inventadas ou distorcidas que modelos de linguagem apresentam com aparência de certeza — são um defeito estrutural dos sistemas generativos. Dois anos atrás, as taxas de alucinação dos principais modelos variavam entre 15% e 20%. Em 2026, o cenário técnico evoluiu significativamente: o Google Gemini-2.0-Flash registra a menor taxa conhecida, de apenas 0,7%, segundo benchmarks independentes.

A melhoria é inegável — mas insuficiente para eliminar o risco. Em aplicações de alto volume, mesmo uma taxa de 0,7% produz erros consequentes. Um escritório de advocacia que processa centenas de documentos por semana, um sistema hospitalar que analisa milhares de exames ou um banco que avalia milhões de transações não pode tolerar respostas fabricadas, por mais raras que sejam.

O problema é agravado por uma característica intrínseca das alucinações: elas não se anunciam. Diferentemente de um erro de cálculo que produz um resultado absurdo, uma alucinação de IA apresenta informação falsa com a mesma fluência e confiança de uma informação verdadeira. Sem verificação humana ativa, a detecção é improvável.

Caso concreto: escritório Am Law 100 sancionado — de novo

O episódio de fevereiro de 2026 não é um incidente isolado. É parte de um padrão crescente de sanções judiciais contra profissionais que utilizam IA sem verificação adequada dos resultados.

O caso mais emblemático permanece o de Mata v. Avianca (2023), no qual advogados americanos citaram jurisprudência inteiramente fabricada pelo ChatGPT em uma petição federal. O juiz impôs multas e sanções, e o episódio tornou-se referência global sobre os riscos do uso irresponsável de IA no direito.

Desde então, tribunais nos Estados Unidos, Canadá, Reino Unido e Austrália emitiram diretrizes cada vez mais explícitas: a responsabilidade pela verificação de outputs de IA recai integralmente sobre o profissional que os utiliza. A máquina não é parte processual; não pode ser responsabilizada; não absorve o dever de diligência.

"A responsabilidade nunca se transfere para a máquina. O profissional que assina um documento gerado por IA assume o mesmo dever de verificação que teria se o tivesse redigido pessoalmente." — Princípio consolidado em decisões judiciais dos EUA, Canadá e Reino Unido.

O estudo de Stanford Law, "AI, Liability, and Hallucinations in a Changing Tech and Law Environment", sistematiza essa jurisprudência emergente e conclui: o risco jurídico das alucinações não diminui com a melhoria técnica dos modelos — ele se desloca. À medida que a tecnologia melhora, a expectativa de diligência profissional aumenta proporcionalmente. Confiar cegamente em IA que "quase nunca erra" não é defesa; é negligência agravada.

Resposta regulatória: EU AI Act e as leis da Califórnia

O arcabouço regulatório global está respondendo ao problema com velocidade inédita.

União Europeia — EU AI Act: A legislação mais abrangente do mundo sobre inteligência artificial estabeleceu um cronograma escalonado de implementação. Em 2 de agosto de 2025, entraram em vigor as regras de governança aplicáveis a todos os sistemas de IA. Em 2 de agosto de 2026, entra em vigor a conformidade obrigatória para sistemas de alto risco — incluindo IA utilizada em decisões judiciais, saúde, crédito e emprego. As penalidades são severas: até €35 milhões ou 7% do faturamento global, o que for maior.

O EU AI Act aborda alucinações de forma oblíqua mas eficaz: sistemas de alto risco devem demonstrar acurácia, robustez e cibersegurança adequadas ao seu contexto de uso. Um sistema que alucina em contexto jurídico ou médico falha no requisito de acurácia — e, portanto, viola a legislação.

Califórnia — AB 2013 e SB 942: Desde 1º de janeiro de 2026, duas leis californianas complementam o cenário federal americano:

• AB 2013 (AI Training Data Transparency Act): exige que desenvolvedores de IA generativa divulguem informações sobre os dados utilizados no treinamento de seus modelos — incluindo fontes, métodos de curadoria e licenciamento. A lógica é direta: alucinações frequentemente derivam de dados de treinamento inadequados, enviesados ou insuficientes. Transparência sobre os dados é o primeiro passo para auditabilidade.
• SB 942 (AI Transparency Act): obriga que outputs de IA generativa sejam identificáveis como tal, por meio de marcações visíveis ou metadados detectáveis. O objetivo é impedir que conteúdo gerado por IA — potencialmente alucinado — circule como informação verificada por humanos.

Juntas, essas legislações criam um ecossistema regulatório onde a opacidade não é mais tolerada. Desenvolvedores precisam explicar seus dados; outputs precisam ser identificados; e operadores precisam demonstrar diligência.

Literacia em IA: o novo padrão mínimo de competência profissional

Um desdobramento menos discutido — mas talvez mais transformador — é a consolidação da literacia em IA como requisito de competência profissional. Ordens de advogados nos Estados Unidos, Canadá, Austrália e Reino Unido já incorporaram, de formas variadas, a compreensão de ferramentas de IA ao dever de competência técnica dos profissionais.

Na prática, isso significa que:

• Um advogado que utiliza IA sem compreender suas limitações — incluindo o risco de alucinação — pode ser considerado tecnicamente incompetente.
• Um médico que aceita diagnósticos gerados por IA sem verificação clínica independente assume responsabilidade agravada em caso de erro.
• Um auditor que automatiza análises com IA sem mecanismos de revisão humana viola padrões profissionais de diligência.

O padrão emergente é claro: usar IA não é o problema; usá-la sem entendê-la é. A literacia em IA — compreensão de como modelos funcionam, onde falham e como verificar seus resultados — é agora competência mínima, não diferencial.

Implicações para o Brasil: um alerta antecipado

O Brasil ainda não possui legislação específica sobre IA — o PL 2338/2023 continua em tramitação. Mas o cenário internacional oferece um alerta claro sobre a direção regulatória.

Primeiro, o judiciário brasileiro já enfrenta o problema. Tribunais estaduais e federais recebem petições elaboradas com auxílio de IA generativa sem qualquer protocolo de verificação. Na ausência de diretrizes formais do CNJ sobre uso de IA em peças processuais, o risco de alucinações judiciais é concreto e crescente.

Segundo, a LGPD já oferece base parcial para responsabilização. Decisões automatizadas que afetam direitos — incluindo decisões baseadas em outputs alucinados de IA — podem ser questionadas sob o artigo 20 da Lei Geral de Proteção de Dados, que garante o direito a revisão de decisões automatizadas.

Terceiro, o Brasil precisa definir padrões de diligência profissional no uso de IA antes que os incidentes se acumulem. OAB, CFM, CFC e demais conselhos profissionais deveriam estabelecer diretrizes claras — inspirando-se nos modelos americano, canadense e britânico — sobre o uso responsável de ferramentas generativas.

Governança como resposta estrutural

A solução para o risco jurídico das alucinações de IA não é abandonar a tecnologia — é governá-la. Isso implica:

• Políticas internas de uso de IA que definam contextos de uso permitidos, obrigatórios e proibidos.
• Processos de verificação humana proporcionais ao risco do contexto de aplicação.
• Treinamento contínuo de profissionais sobre limitações e riscos de ferramentas generativas.
• Documentação e auditabilidade de decisões assistidas por IA, especialmente em contextos regulados.
• Monitoramento de desempenho dos modelos utilizados, com métricas de acurácia e taxas de erro documentadas.

O cenário regulatório global está convergindo para um princípio simples: a inteligência artificial amplifica capacidades humanas, mas não substitui a responsabilidade humana. Em 2026, com o EU AI Act em plena implementação e legislações nacionais se multiplicando, organizações que não governam seus sistemas de IA não estão apenas assumindo risco técnico — estão assumindo risco jurídico, financeiro e reputacional.

O IBGIA acompanha a evolução regulatória global e trabalha para que organizações brasileiras estejam preparadas para esse novo cenário. A governança de IA não é custo — é a infraestrutura mínima de operação responsável.