Viés algorítmico: de problema técnico a risco legal — o que empresas precisam saber em 2026

Durante décadas, viés algorítmico foi tratado como um problema técnico — algo para pesquisadores de machine learning resolverem com métricas de fairness e ajustes em datasets. Em 2026, essa era acabou. Processos judiciais milionários, novas legislações estaduais nos EUA e a entrada em vigor do EU AI Act transformaram a discriminação algorítmica em um dos maiores riscos jurídicos corporativos da década. Para empresas brasileiras, a questão é especialmente urgente: a LGPD já oferece base legal para contestar decisões automatizadas discriminatórias, e o PL 2338 promete ir além.

1. O caso Workday: quando o algoritmo vai a julgamento

O caso mais emblemático de 2025-2026 é o processo contra a Workday, uma das maiores plataformas de gestão de recursos humanos do mundo. Um candidato a emprego, Derek Mobley, alega que o sistema de triagem automatizada da empresa discriminou sistematicamente candidatos com base em idade, raça e deficiência. O caso foi aceito como ação coletiva — uma decisão judicial que ampliou significativamente seu alcance.

O que torna esse caso particularmente relevante para o mercado é a fase em que se encontra: discovery. A Workday está sendo obrigada a revelar dados sobre como seus algoritmos de screening funcionam, quais variáveis utilizam e qual o impacto estatístico sobre diferentes grupos demográficos. É a primeira vez que uma corte americana exige esse nível de transparência sobre um sistema de IA usado em recrutamento em larga escala.

As implicações são profundas. Se a corte determinar que o sistema da Workday produz impacto desproporcional sobre grupos protegidos — mesmo sem intenção discriminatória explícita — o precedente afetará toda empresa que utiliza ferramentas de IA para triagem de candidatos. E isso inclui milhares de empresas ao redor do mundo que utilizam plataformas semelhantes.

O caso Workday também esclarece um ponto jurídico crucial: sob o Title VII do Civil Rights Act americano, o empregador é integralmente responsável pelo impacto discriminatório de ferramentas de IA, independentemente de ter sido o fornecedor quem desenvolveu o algoritmo. Em outras palavras: terceirizar a decisão para um software não terceiriza a responsabilidade legal.

2. Novas leis nos EUA: Califórnia e Colorado lideram

Enquanto o caso Workday tramita nos tribunais, o poder legislativo americano está se movendo rapidamente para regulamentar o uso de IA em decisões que afetam pessoas.

Califórnia implementou novas regulamentações que estendem suas leis antidiscriminação existentes ao uso de ferramentas de inteligência artificial. As principais exigências incluem:

• Proibição explícita de usar IA para triagem baseada em características protegidas (raça, gênero, idade, deficiência, orientação sexual);
• Obrigação de retenção de registros por 4 anos sobre o funcionamento e os resultados dos sistemas de IA utilizados em decisões de emprego;
• Direito do candidato ou funcionário de saber se uma decisão foi influenciada por sistema automatizado.

Colorado, por sua vez, aprovou o AI Act (SB 24-205) — a legislação estadual mais abrangente dos EUA sobre IA. Originalmente previsto para entrar em vigor em fevereiro de 2026, o prazo foi adiado para 30 de junho de 2026, dando mais tempo para as empresas se adequarem. Os requisitos incluem:

• Avaliações de impacto obrigatórias para sistemas de IA classificados como alto risco;
• Documentação sobre as fontes de dados utilizadas no treinamento;
• Mecanismos de notificação ao consumidor quando decisões consequenciais forem tomadas por IA;
• Programa de governança com revisão periódica dos sistemas implantados.

Embora sejam leis estaduais, seu impacto é nacional — e internacional. Empresas de tecnologia sediadas na Califórnia atendem clientes globais, e o efeito cascata dessas regulações já influencia práticas corporativas em outros países.

3. EU AI Act e o setor de emprego

O Regulamento Europeu de Inteligência Artificial (EU AI Act), cuja vigência plena começa em agosto de 2026, classifica sistemas de IA utilizados em recrutamento, avaliação de desempenho e decisões sobre promoção ou demissão como de alto risco. Essa classificação impõe um conjunto rigoroso de obrigações:

• Transparência: empregadores devem informar candidatos e funcionários que estão sujeitos a decisões algorítmicas;
• Documentação técnica: é necessário manter registros detalhados sobre o design, treinamento e funcionamento dos sistemas;
• Gestão de viés: os sistemas devem ser testados e monitorados continuamente para detectar e mitigar vieses discriminatórios;
• Supervisão humana: decisões automatizadas de alto impacto devem ter possibilidade de revisão por pessoa qualificada.

Para empresas brasileiras com operações na Europa — ou que fornecem software para clientes europeus — o EU AI Act é diretamente aplicável. Mas mesmo para quem opera exclusivamente no mercado doméstico, os padrões europeus estão se tornando referência global de boas práticas.

4. Brasil: a LGPD já cobre, e o PL 2338 vai além

É um equívoco comum pensar que o Brasil não tem regulação aplicável a decisões algorítmicas discriminatórias. A LGPD, em seu artigo 20, já garante ao titular de dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado — incluindo decisões que afetem seus interesses, como perfil profissional, de consumo ou de crédito.

Na prática, isso significa que um candidato rejeitado por um sistema de triagem automatizado no Brasil já pode, hoje, exigir explicações sobre os critérios utilizados e solicitar revisão humana da decisão. E se o sistema produzir resultados discriminatórios, a empresa pode ser responsabilizada pela ANPD (Autoridade Nacional de Proteção de Dados) e pelo Judiciário.

O PL 2338/2023, que regulamenta especificamente a inteligência artificial no Brasil, pretende ir além. Entre suas disposições mais relevantes para o tema do viés algorítmico estão:

• Classificação de sistemas de IA em emprego e crédito como alto risco;
• Obrigação de avaliação de impacto algorítmico antes da implantação;
• Exigência de medidas técnicas para prevenção de discriminação;
• Responsabilidade objetiva do operador em casos de dano.

Embora o PL 2338 ainda esteja em tramitação, sua aprovação é amplamente esperada. Empresas que começarem a se preparar agora estarão em vantagem competitiva significativa.

5. O que fazer agora: da reação à prevenção

Diante desse cenário regulatório convergente — nos EUA, na Europa e no Brasil — organizações que utilizam IA em processos de decisão sobre pessoas precisam agir de forma proativa. As recomendações essenciais incluem:

• Mapear todos os sistemas de IA que influenciam decisões sobre pessoas (contratação, promoção, crédito, precificação, atendimento) — incluindo ferramentas de terceiros;
• Realizar auditorias de viés regulares, com análise de impacto desproporcional por grupo demográfico (gênero, raça, idade, deficiência);
• Documentar decisões algorítmicas de forma auditável, mantendo registros sobre dados de treinamento, métricas de performance e resultados por grupo;
• Implementar mecanismos de revisão humana para decisões de alto impacto, garantindo que pessoas qualificadas possam contestar e reverter resultados automatizados;
• Treinar equipes jurídicas e de compliance sobre os riscos específicos de IA, incluindo o conceito de impacto desproporcional e as obrigações da LGPD;
• Exigir garantias contratuais de fornecedores de IA sobre testes de viés, transparência algorítmica e responsabilidade compartilhada.

A lição do caso Workday é clara: o viés algorítmico não é mais um problema de engenharia a ser resolvido internamente. É um risco legal, reputacional e financeiro que exige governança estruturada, documentação rigorosa e ação preventiva.

Quer se manter informado sobre regulação de IA e seus impactos para empresas? Inscreva-se na newsletter do IBGIA para receber análises semanais sobre governança de inteligência artificial. E se você é profissional de compliance, jurídico ou tecnologia, conheça as formas de se associar ao IBGIA e participar ativamente da construção de um ecossistema de IA mais justo e transparente no Brasil.