Vieses Algorítmicos e Justiça Social: Um Framework de Avaliação para o Contexto Brasileiro

Série: IBGIA Working Papers Número: WP-2026-003 ISSN: Em processo de registro Data: Março de 2026

Autores:

• André Nakamura¹ ²
• Thiago Almeida¹ ³

¹ IBGIA — Instituto Brasileiro de Governança em Inteligência Artificial ² Coordenador Técnico e de Avaliação, IBGIA ³ Coordenador de Pesquisa e Publicações, IBGIA

Contato: [email protected] | [email protected]

---

Resumo

Este working paper propõe um framework de avaliação de vieses algorítmicos adaptado ao contexto brasileiro, considerando as especificidades socioeconômicas, raciais e estruturais do país. A crescente adoção de sistemas de Inteligência Artificial em setores críticos — crédito, segurança pública, justiça, saúde e assistência social — amplifica riscos de discriminação algorítmica que incidem de forma desproporcional sobre populações historicamente marginalizadas. A análise dos frameworks internacionais existentes, incluindo o Fairness-Aware Machine Learning, o NIST AI Risk Management Framework e as disposições antidiscriminatórias do EU AI Act, revela lacunas significativas para aplicação em contextos do Sul Global, particularmente no que tange à interseccionalidade de marcadores sociais, à precariedade de dados representativos e à fragilidade institucional de mecanismos de reparação. O framework proposto pelo IBGIA estrutura-se em cinco dimensões: Representatividade dos Dados, Equidade de Resultados, Transparência e Explicabilidade, Participação de Grupos Afetados e Monitoramento Contínuo. Cada dimensão é operacionalizada por meio de indicadores, métricas e protocolos de verificação, acompanhados de uma metodologia de aplicação em seis etapas. Um estudo de caso ilustrativo demonstra a aplicação do framework a um sistema de credit scoring, evidenciando como vieses estruturais brasileiros podem ser identificados e mitigados sistematicamente. O trabalho conclui com recomendações para organizações, reguladores e formuladores de políticas públicas, contribuindo para o debate sobre justiça algorítmica em países de renda média.

Palavras-chave: Vieses Algorítmicos; Justiça Social; Inteligência Artificial; Discriminação Algorítmica; Equidade; Framework de Avaliação; Brasil.

Abstract

This working paper proposes a framework for assessing algorithmic bias adapted to the Brazilian context, considering the country's socioeconomic, racial, and structural specificities. The growing adoption of Artificial Intelligence systems in critical sectors — credit, public safety, justice, healthcare, and social assistance — amplifies the risks of algorithmic discrimination that disproportionately affect historically marginalized populations. An analysis of existing international frameworks, including Fairness-Aware Machine Learning, the NIST AI Risk Management Framework, and the anti-discrimination provisions of the EU AI Act, reveals significant gaps for application in Global South contexts, particularly regarding the intersectionality of social markers, the precariousness of representative data, and the institutional fragility of redress mechanisms. The framework proposed by IBGIA is structured across five dimensions: Data Representativeness, Outcome Equity, Transparency and Explainability, Affected Group Participation, and Continuous Monitoring. Each dimension is operationalized through indicators, metrics, and verification protocols, accompanied by a six-step application methodology. An illustrative case study demonstrates the application of the framework to a credit scoring system, showing how Brazilian structural biases can be systematically identified and mitigated. The paper concludes with recommendations for organizations, regulators, and policymakers, contributing to the debate on algorithmic justice in middle-income countries.

Keywords: Algorithmic Bias; Social Justice; Artificial Intelligence; Algorithmic Discrimination; Equity; Assessment Framework; Brazil.

---

1. Introdução

A Inteligência Artificial (IA) não opera em um vácuo social. Os sistemas algorítmicos que crescentemente mediam decisões sobre crédito, emprego, segurança pública, acesso a serviços de saúde e distribuição de benefícios sociais são produtos de contextos históricos e estruturais específicos. Quando esses contextos são marcados por desigualdades profundas e persistentes — como é o caso brasileiro —, a automação de decisões carrega consigo o risco de perpetuar, amplificar e legitimar discriminações preexistentes sob o verniz de objetividade técnica (NOBLE, 2018; BENJAMIN, 2019).

O Brasil é o segundo país mais desigual da América Latina em termos de distribuição de renda (CEPAL, 2024) e apresenta uma estratificação social profundamente marcada por raça, gênero, região e classe. A população negra — que constitui 55,5% dos brasileiros segundo o IBGE (2023) — é sistematicamente sub-representada em posições de poder econômico e político, ao mesmo tempo em que é sobre-representada em indicadores de vulnerabilidade: pobreza, encarceramento, letalidade policial e exclusão digital. Nesse cenário, a adoção acelerada de sistemas de IA sem mecanismos adequados de avaliação de vieses não é apenas uma questão técnica — é uma questão de justiça social.

A literatura internacional sobre vieses algorítmicos cresceu significativamente na última década, com contribuições seminais sobre equidade em aprendizado de máquina (BAROCAS; HARDT; NARAYANAN, 2023), discriminação em sistemas de reconhecimento facial (BUOLAMWINI; GEBRU, 2018) e impactos desproporcionais de algoritmos preditivos em comunidades racializadas (EUBANKS, 2018; O'NEIL, 2016). Frameworks normativos como o NIST AI Risk Management Framework (NIST, 2023), as disposições antidiscriminatórias do EU AI Act (EUROPEAN UNION, 2024) e as diretrizes da UNESCO sobre ética de IA (UNESCO, 2021) oferecem orientações valiosas, mas foram concebidos predominantemente para contextos do Norte Global, com estruturas institucionais, bases de dados e dinâmicas sociais distintas das brasileiras.

Este working paper parte de uma premissa fundamental: frameworks de avaliação de vieses algorítmicos devem ser contextualmente situados. A mera transposição de métricas de fairness desenvolvidas nos Estados Unidos ou na Europa para o contexto brasileiro é insuficiente, e potencialmente contraproducente, na medida em que pode obscurecer formas específicas de discriminação que operam no tecido social do país. A miscigenação como ideologia, o racismo estrutural que opera sob o mito da democracia racial, a interseccionalidade entre raça, classe e região, e a informalidade econômica que exclui milhões de brasileiros de registros digitais formais são fatores que exigem uma abordagem própria.

O presente trabalho tem três objetivos: (i) mapear as manifestações específicas de vieses algorítmicos no contexto brasileiro, com exemplos documentados e emergentes; (ii) propor um framework de avaliação de vieses em cinco dimensões, operacionalizado para uso por organizações públicas e privadas; e (iii) demonstrar a aplicação do framework por meio de um estudo de caso ilustrativo. Ao fazê-lo, o IBGIA busca contribuir para a construção de uma agenda de justiça algorítmica que seja genuinamente brasileira em sua concepção, sem perder interoperabilidade com referenciais internacionais.

1.1 Metodologia

O trabalho adota uma abordagem mista. A revisão de literatura abrange produção acadêmica e técnica sobre vieses algorítmicos, frameworks de equidade e regulação de IA, com ênfase em fontes brasileiras e latino-americanas. A construção do framework segue uma lógica dedutiva-indutiva: parte de princípios estabelecidos na literatura de fairness computacional e nos marcos normativos internacionais, complementados por elementos indutivos derivados da análise de casos brasileiros e das especificidades do contexto nacional. O estudo de caso ilustrativo utiliza dados publicamente disponíveis e parâmetros realistas, sem recorrer a dados individuais protegidos.

2. Revisão de Literatura: Frameworks Existentes e Suas Limitações

2.1 Fairness-Aware Machine Learning

O campo de Fairness-Aware Machine Learning (FairML) consolidou-se a partir de meados da década de 2010 como um subcampo da ciência da computação dedicado a desenvolver métricas, algoritmos e técnicas para detecção e mitigação de vieses em sistemas de aprendizado de máquina. As contribuições fundamentais incluem a formalização de métricas de equidade — demographic parity, equalized odds, predictive parity, individual fairness, entre outras — e a demonstração formal da impossibilidade de satisfazer simultaneamente todas as definições de equidade (CHOULDECHOVA, 2017; KLEINBERG; MULLAINATHAN; RAGHAVAN, 2017).

A principal contribuição do FairML é fornecer um arcabouço matemático rigoroso para identificar e mensurar disparidades em sistemas preditivos. No entanto, suas limitações para o contexto brasileiro são significativas. Primeiro, as métricas de fairness pressupõem a existência de atributos protegidos claramente definidos e disponíveis nos dados, o que é problemático no Brasil, onde a classificação racial é baseada em autodeclaração e as categorias do IBGE (branco, preto, pardo, amarelo, indígena) capturam imperfeitamente a complexidade da estratificação racial brasileira (OSÓRIO, 2003). Segundo, a abordagem é predominantemente técnica e individualista, focada em resultados de modelos específicos, sem considerar os sistemas sociotécnicos mais amplos em que esses modelos operam. Terceiro, as métricas foram desenvolvidas em um contexto norte-americano de classificação racial binária (branco/não-branco ou branco/negro), que não se traduz diretamente para a realidade brasileira de espectro contínuo de cor e raça.

2.2 NIST AI Risk Management Framework

O NIST AI RMF (2023) oferece uma abordagem abrangente de gestão de riscos de IA, organizada em quatro funções (Govern, Map, Measure, Manage). No que tange à equidade e vieses, o framework destaca a necessidade de avaliar "harmful bias" ao longo de todo o ciclo de vida do sistema de IA, com ênfase particular nas funções Map (identificação de riscos) e Measure (mensuração de impactos).

O NIST AI RMF avança em relação ao FairML ao adotar uma perspectiva sociotécnica, reconhecendo que vieses não residem apenas nos algoritmos, mas emergem da interação entre dados, modelos, processos organizacionais e contextos de uso. No entanto, o framework é deliberadamente genérico e não prescritivo, oferecendo orientações de alto nível sem especificar métricas, limiares ou procedimentos concretos de avaliação. Além disso, foi concebido para o contexto institucional norte-americano, pressupondo capacidades organizacionais e infraestruturas de dados que podem não estar disponíveis em organizações brasileiras, especialmente no setor público e em empresas de menor porte.

2.3 EU AI Act: Disposições Antidiscriminatórias

O Regulamento Europeu de Inteligência Artificial (EUROPEAN UNION, 2024) aborda vieses algorítmicos em múltiplos dispositivos. O Artigo 10 estabelece requisitos de qualidade de dados para sistemas de alto risco, incluindo a verificação de representatividade e a detecção de vieses nos dados de treinamento. O Artigo 9 exige que sistemas de alto risco sejam projetados para minimizar riscos de discriminação. Os Artigos 6 e 7, combinados com o Anexo III, classificam como alto risco sistemas de IA utilizados em decisões que afetam acesso a crédito, emprego, benefícios sociais e serviços essenciais — áreas em que vieses algorítmicos têm impacto desproporcional.

O EU AI Act representa um avanço ao integrar preocupações com vieses em um marco regulatório vinculante. Contudo, sua aplicabilidade ao contexto brasileiro é limitada por vários fatores: as categorias de discriminação protegidas refletem o arcabouço jurídico europeu; os mecanismos de enforcement pressupõem a existência de autoridades reguladoras com capacidade técnica e operacional robusta; e as exigências de documentação técnica podem ser desproporcionais para o ecossistema empresarial brasileiro, composto majoritariamente por micro e pequenas empresas.

2.4 Limitações Comuns para o Sul Global

A análise comparativa dos frameworks existentes revela quatro limitações transversais para sua aplicação em contextos do Sul Global, e particularmente no Brasil:

Ausência de dados representativos: Frameworks internacionais pressupõem a disponibilidade de datasets amplos e com atributos demográficos detalhados. No Brasil, a exclusão digital, a informalidade econômica e a precariedade de registros administrativos resultam em bases de dados que sub-representam sistematicamente populações vulneráveis — exatamente os grupos mais afetados por vieses algorítmicos (SILVA; MELLO, 2024).

Categorias identitárias não traduzidas: As categorias de raça, etnia, gênero e classe que estruturam a análise de vieses nos frameworks do Norte Global não capturam adequadamente as dinâmicas brasileiras. O conceito de colorismo, a interseccionalidade específica entre raça e classe no Brasil, e a invisibilidade estatística de populações indígenas e quilombolas exigem adaptações profundas (GONZALEZ, 2020; ALMEIDA, S., 2019).

Assimetria de poder institucional: Mecanismos de accountability e reparação previstos nos frameworks internacionais pressupõem instituições reguladoras fortes, judiciário ágil e sociedade civil organizada com capacidade técnica. No Brasil, a assimetria de poder entre grandes empresas de tecnologia — frequentemente sediadas no exterior — e os órgãos reguladores nacionais é significativa.

Vieses compostos e estruturais: Frameworks focados em métricas pontuais de fairness não capturam adequadamente vieses que resultam da interação entre múltiplos sistemas e da acumulação histórica de desvantagens. No Brasil, um indivíduo negro, morador de periferia, com histórico de emprego informal, pode ser sistematicamente penalizado não por um único algoritmo, mas por uma cadeia de sistemas que se alimentam mutuamente (EUBANKS, 2018).

3. Vieses Algorítmicos no Contexto Brasileiro

3.1 Reconhecimento Facial e Segurança Pública

O uso de sistemas de reconhecimento facial por forças de segurança pública no Brasil tem gerado preocupações crescentes. Estudos internacionais já demonstraram que algoritmos comerciais de reconhecimento facial apresentam taxas de erro significativamente mais altas para pessoas de pele escura, particularmente mulheres negras (BUOLAMWINI; GEBRU, 2018). No contexto brasileiro, essa questão assume dimensões especialmente graves.

Levantamento realizado pela Rede de Observatórios da Segurança revelou que, entre 2019 e 2024, ao menos 90% das prisões decorrentes do uso de reconhecimento facial no Brasil envolveram pessoas negras (REDE DE OBSERVATÓRIOS DA SEGURANÇA, 2024). Casos documentados de falsos positivos resultaram em prisões indevidas, constrangimentos públicos e violações de direitos fundamentais. A ausência de regulamentação específica, combinada com a rápida expansão do uso dessa tecnologia em cidades como Salvador, Rio de Janeiro e São Paulo, cria um cenário em que populações negras estão sujeitas a vigilância algoritmizada desproporcional.

O problema não reside apenas na acurácia técnica dos algoritmos. A própria decisão de onde instalar câmeras, quais bases de dados utilizar para comparação e quais limiares de confiança adotar para abordagem policial são decisões de design que refletem e amplificam vieses estruturais. Quando câmeras são instaladas predominantemente em bairros periféricos e bases de dados de procurados refletem disparidades históricas no sistema de justiça criminal, o sistema como um todo opera como mecanismo de discriminação, ainda que cada componente individualmente possa ser tecnicamente defensável.

3.2 Credit Scoring e Exclusão Financeira

O sistema de credit scoring brasileiro apresenta desafios particulares em termos de equidade algorítmica. O Brasil possui uma das maiores concentrações de mercado de credit bureaus do mundo, com o Serasa Experian e o SPC/Boa Vista operando como infraestrutura crítica para decisões de crédito que afetam milhões de pessoas (BANCO CENTRAL DO BRASIL, 2024).

A exclusão financeira no Brasil tem marcadores raciais e regionais claros. Dados do Banco Central indicam que a população negra tem menor acesso a crédito formal, paga taxas de juros mais elevadas e enfrenta maiores taxas de rejeição em solicitações de empréstimo, mesmo quando controladas variáveis como renda e emprego (BCB, 2024). A questão é se — e em que medida — sistemas algorítmicos de credit scoring contribuem para perpetuar essas disparidades.

Algoritmos de credit scoring utilizam extensivamente variáveis próximas (proxies) que podem capturar indiretamente informações sobre raça e classe social: CEP de residência, tipo de emprego, histórico de consumo, uso de serviços financeiros informais. No contexto brasileiro, onde a segregação espacial urbana é fortemente correlacionada com raça (SANTOS, 2023), a utilização do CEP como variável preditiva pode funcionar como proxy racial, resultando em discriminação indireta que é tecnicamente difícil de detectar e juridicamente complexa de contestar.

Além disso, a informalidade do mercado de trabalho — que afeta desproporcionalmente pessoas negras e moradores de regiões periféricas — cria lacunas nos dados que alimentam modelos de credit scoring. A ausência de registro formal de renda, de histórico bancário e de dados de consumo rastreáveis resulta em scores mais baixos ou na impossibilidade de gerar scores, perpetuando um ciclo de exclusão em que os mais vulneráveis são também os menos visíveis para os sistemas de decisão.

3.3 Algoritmos no Sistema de Justiça

O uso de ferramentas algorítmicas no sistema de justiça brasileiro é ainda incipiente se comparado aos Estados Unidos, mas está em expansão. O SISTAC (Sistema de Acompanhamento de Audiência de Custódia), embora não seja um sistema preditivo em sentido estrito, exemplifica como a automação de processos judiciais pode carregar vieses quando opera sobre dados gerados por um sistema de justiça criminal reconhecidamente seletivo (SINHORETTO; SILVESTRE; SCHLITTLER, 2014).

Experiências internacionais como o COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) nos Estados Unidos — que apresentou disparidades raciais significativas em suas previsões de reincidência (ANGWIN et al., 2016) — servem como alerta para o Brasil. Propostas de implementação de ferramentas preditivas para decisões sobre prisão preventiva, progressão de regime e concessão de benefícios penais devem ser objeto de escrutínio rigoroso, considerando que o sistema prisional brasileiro é o terceiro maior do mundo, com sobre-representação massiva de pessoas negras e pobres (DEPEN, 2024).

3.4 Algoritmos de Benefícios Sociais

A distribuição de benefícios sociais no Brasil passa crescentemente por sistemas algorítmicos de elegibilidade e priorização. O Cadastro Único para Programas Sociais do Governo Federal (CadÚnico) e o cruzamento de bases de dados para verificação de critérios de elegibilidade no Bolsa Família, no BPC (Benefício de Prestação Continuada) e em outros programas sociais envolvem decisões automatizadas que afetam milhões de famílias vulneráveis.

Os riscos de vieses nesses sistemas são multidimensionais. Erros cadastrais — mais frequentes em municípios com menor capacidade administrativa, tipicamente localizados em regiões mais pobres — podem resultar em exclusão indevida de beneficiários. A verificação automatizada de renda via cruzamento de bases de dados pode penalizar trabalhadores informais, cujos rendimentos não aparecem em registros oficiais. E a utilização de modelos preditivos para detecção de fraude pode gerar falsos positivos que atingem desproporcionalmente populações que já enfrentam dificuldades de acesso a serviços públicos (LAVINAS; GENTIL, 2024).

3.5 Saúde e Triagem Algorítmica

No setor de saúde, algoritmos de triagem e priorização são cada vez mais utilizados no SUS (Sistema Único de Saúde) e em operadoras de planos de saúde. Estudos internacionais já demonstraram que algoritmos de gestão de saúde podem apresentar vieses raciais significativos — como o caso documentado por Obermeyer et al. (2019) nos Estados Unidos, em que um algoritmo amplamente utilizado subestimava sistematicamente a gravidade da condição de saúde de pacientes negros.

No Brasil, os riscos são amplificados pela desigualdade no acesso à saúde, pela sub-representação de populações negras e indígenas em dados de ensaios clínicos e pela concentração de infraestrutura de saúde em regiões mais ricas. Algoritmos treinados predominantemente com dados de populações brancas e de maior renda podem apresentar performance inferior quando aplicados a populações que mais dependem do SUS.

4. Framework IBGIA de Avaliação de Vieses Algorítmicos

4.1 Princípios Fundamentais

O framework proposto fundamenta-se em três princípios que orientam sua concepção e aplicação:

Contextualidade: Vieses algorítmicos não podem ser avaliados abstratamente. A avaliação deve considerar o contexto social, econômico e institucional em que o sistema opera, incluindo as desigualdades estruturais que marcam a sociedade brasileira.

Interseccionalidade: A discriminação algorítmica raramente opera sobre um único eixo. O framework adota uma perspectiva interseccional, reconhecendo que vieses podem afetar de forma diferenciada indivíduos que se encontram na intersecção de múltiplos marcadores sociais — raça e gênero, classe e região, idade e deficiência (CRENSHAW, 1989; GONZALEZ, 2020).

Participação: A avaliação de vieses não pode ser conduzida exclusivamente por equipes técnicas. Grupos afetados por decisões algorítmicas devem ter voz ativa no processo de avaliação, na definição de métricas e na validação de resultados.

4.2 As Cinco Dimensões do Framework

4.2.1 Dimensão 1 — Representatividade dos Dados

Esta dimensão avalia em que medida os dados utilizados para desenvolvimento, treinamento e validação do sistema de IA refletem adequadamente a diversidade da população afetada por suas decisões.

Indicadores:

• RD-1: Composição demográfica dos dados de treinamento versus composição demográfica da população-alvo (por raça/cor, gênero, faixa etária, região e nível socioeconômico)
• RD-2: Identificação e quantificação de lacunas de representação (grupos sub-representados ou ausentes)
• RD-3: Avaliação da qualidade diferencial dos dados por grupo demográfico (completude, acurácia, atualidade)
• RD-4: Rastreabilidade das fontes de dados e identificação de vieses históricos nas fontes
• RD-5: Existência de processo de curadoria de dados com perspectiva de equidade

Métricas sugeridas:

• Índice de representatividade: razão entre a proporção de cada grupo nos dados e sua proporção na população-alvo
• Gap de completude: diferença na taxa de dados faltantes entre grupos demográficos
• Índice de diversidade de fontes: número e variedade de fontes de dados utilizadas

Limiares de alerta: Um índice de representatividade inferior a 0,8 ou superior a 1,2 para qualquer grupo demográfico deve acionar processo de investigação e mitigação. Gaps de completude superiores a 10 pontos percentuais entre grupos indicam risco elevado de viés.

4.2.2 Dimensão 2 — Equidade de Resultados

Esta dimensão avalia se os resultados produzidos pelo sistema de IA apresentam disparidades significativas entre grupos demográficos, e se essas disparidades são justificáveis.

Indicadores:

• ER-1: Taxas de resultado positivo e negativo desagregadas por grupo demográfico
• ER-2: Disparidade nas taxas de erro (falsos positivos e falsos negativos) entre grupos
• ER-3: Análise de impacto desproporcional (disparate impact ratio)
• ER-4: Avaliação de equidade condicional (equalized odds) quando aplicável
• ER-5: Identificação de vieses interseccionais (interação entre múltiplos atributos protegidos)

Métricas sugeridas:

• Disparate Impact Ratio (DIR): razão entre a taxa de resultado favorável para o grupo menos favorecido e a taxa para o grupo mais favorecido. Valores abaixo de 0,8 indicam impacto desproporcional, seguindo o critério dos 4/5 (EEOC, 1978), adaptado ao contexto brasileiro
• Diferença de Equalized Odds: diferença nas taxas de verdadeiros positivos e falsos positivos entre grupos
• Índice de equidade interseccional: disparidades avaliadas para subgrupos definidos pela combinação de atributos (ex: mulheres negras vs. homens brancos)

Limiares de alerta: DIR inferior a 0,8 ou superior a 1,25 para qualquer comparação entre grupos. Diferenças em equalized odds superiores a 5 pontos percentuais. Disparidades interseccionais mais acentuadas que disparidades unidimensionais.

4.2.3 Dimensão 3 — Transparência e Explicabilidade

Esta dimensão avalia o grau em que as decisões do sistema de IA são transparentes, explicáveis e compreensíveis para diferentes públicos, com ênfase nos grupos afetados.

Indicadores:

• TE-1: Existência de documentação técnica acessível sobre o funcionamento do sistema (model cards, datasheets)
• TE-2: Capacidade de explicar decisões individuais em linguagem compreensível para o público afetado
• TE-3: Identificação e comunicação das variáveis mais influentes nas decisões
• TE-4: Disponibilidade de informação sobre o papel de atributos sensíveis (diretos ou proxies) nas decisões
• TE-5: Existência de mecanismos de contestação acessíveis e efetivos

Métricas sugeridas:

• Índice de completude documental: proporção de elementos recomendados (model card, datasheet, avaliação de impacto) efetivamente disponibilizados
• Nível de explicabilidade: avaliado por teste de compreensão com representantes dos grupos afetados
• Taxa de contestação atendida: proporção de contestações de decisões que resultam em revisão efetiva

Requisitos mínimos: Todo sistema de IA que afete direitos ou oportunidades de indivíduos deve dispor de: (i) descrição pública do propósito e funcionamento geral; (ii) mecanismo de explicação de decisões individuais; e (iii) canal de contestação acessível, com prazo definido de resposta.

4.2.4 Dimensão 4 — Participação de Grupos Afetados

Esta dimensão avalia em que medida comunidades e indivíduos afetados por decisões algorítmicas são envolvidos no design, avaliação e monitoramento do sistema.

Indicadores:

• PA-1: Realização de consultas a grupos afetados durante as fases de design e desenvolvimento
• PA-2: Inclusão de representantes de comunidades afetadas em processos de avaliação de impacto
• PA-3: Existência de mecanismos permanentes de feedback acessíveis a todos os grupos demográficos
• PA-4: Resposta documentada a preocupações levantadas por grupos afetados
• PA-5: Diversidade na composição das equipes de desenvolvimento e avaliação do sistema

Métricas sugeridas:

• Índice de participação: número e diversidade de grupos consultados em relação ao universo de grupos afetados
• Taxa de incorporação de feedback: proporção de preocupações levantadas que resultaram em alterações no sistema
• Índice de diversidade da equipe: representatividade de gênero, raça e origem socioeconômica nas equipes envolvidas

Requisitos mínimos: Sistemas de IA que classificam ou tomam decisões sobre pessoas devem incluir, ao menos, uma rodada de consulta a representantes dos grupos mais afetados antes da implantação em produção, e mecanismos de feedback acessíveis durante a operação.

4.2.5 Dimensão 5 — Monitoramento Contínuo

Esta dimensão avalia a existência de mecanismos de acompanhamento pós-implantação que permitam detectar e corrigir vieses que emergem ou se agravam ao longo do tempo.

Indicadores:

• MC-1: Existência de pipeline de monitoramento de métricas de equidade em produção
• MC-2: Frequência e abrangência de auditorias de vieses pós-implantação
• MC-3: Definição de gatilhos automáticos para revisão quando limiares de equidade são ultrapassados
• MC-4: Processo documentado de resposta a incidentes de discriminação algorítmica
• MC-5: Publicação periódica de relatório de equidade com dados desagregados

Métricas sugeridas:

• Frequência de auditoria: periodicidade de avaliações abrangentes de vieses (mensal, trimestral, semestral)
• Tempo de detecção: intervalo médio entre a emergência de um viés significativo e sua identificação pelo sistema de monitoramento
• Tempo de correção: intervalo médio entre a detecção de um viés e a implementação de medida corretiva
• Índice de transparência de monitoramento: proporção dos resultados de monitoramento disponibilizados publicamente

Requisitos mínimos: Monitoramento de métricas-chave de equidade com periodicidade mínima trimestral; processo de resposta a incidentes com prazos definidos; relatório anual de equidade disponível para stakeholders.

4.3 Matriz de Classificação de Risco de Viés

O framework propõe uma classificação do risco de viés do sistema avaliado, com base na pontuação agregada das cinco dimensões:

| Classificação | Pontuação Agregada | Descrição | Ação Requerida | |---------------|-------------------|-----------|----------------| | Risco Crítico | 0–25% | Vieses graves identificados em múltiplas dimensões; ausência de mecanismos de mitigação | Suspensão do sistema até implementação de correções; auditoria externa obrigatória | | Risco Alto | 26–50% | Vieses significativos identificados; mecanismos de mitigação insuficientes | Plano de ação corretivo com prazo definido (90 dias); reforço de monitoramento | | Risco Moderado | 51–70% | Vieses pontuais identificados; mecanismos de mitigação parcialmente implementados | Plano de melhoria contínua; monitoramento reforçado em áreas críticas | | Risco Baixo | 71–90% | Mecanismos robustos de avaliação e mitigação; vieses residuais dentro de limiares aceitáveis | Manutenção do monitoramento contínuo; auditoria periódica | | Risco Mínimo | 91–100% | Práticas exemplares em todas as dimensões; transparência e participação ativas | Compartilhamento de boas práticas; contribuição para benchmarks setoriais |

5. Metodologia de Aplicação

O framework deve ser aplicado seguindo uma metodologia estruturada em seis etapas, projetada para ser viável em diferentes contextos organizacionais.

5.1 Etapa 1 — Mapeamento do Contexto (Semanas 1–2)

Objetivo: Compreender o sistema de IA avaliado e seu contexto de uso.

Atividades:

1. Documentar o propósito, funcionamento e alcance do sistema de IA
2. Identificar os grupos demográficos afetados pelas decisões do sistema
3. Mapear os riscos potenciais de discriminação, considerando o contexto socioeconômico brasileiro
4. Identificar marcos legais e regulatórios aplicáveis (LGPD, PL 2338/2023, regulações setoriais, Constituição Federal)
5. Definir o escopo da avaliação e os recursos disponíveis

Entregas: Documento de escopo; mapeamento de stakeholders; análise preliminar de riscos.

5.2 Etapa 2 — Auditoria de Dados (Semanas 2–4)

Objetivo: Avaliar a Dimensão 1 (Representatividade dos Dados).

Atividades:

1. Obter e analisar metadados dos datasets de treinamento, validação e teste
2. Calcular indicadores de representatividade por grupo demográfico
3. Identificar lacunas de dados, fontes de viés histórico e proxies de atributos sensíveis
4. Avaliar a qualidade diferencial dos dados entre grupos
5. Documentar achados e recomendações

Ferramentas sugeridas: AI Fairness 360 (IBM), Fairlearn (Microsoft), análise estatística descritiva com recortes demográficos.

5.3 Etapa 3 — Teste de Equidade (Semanas 4–6)

Objetivo: Avaliar a Dimensão 2 (Equidade de Resultados).

Atividades:

1. Executar o sistema de IA sobre dados de teste com atributos demográficos conhecidos
2. Calcular métricas de equidade (DIR, equalized odds, calibração por grupo)
3. Conduzir análise interseccional, cruzando múltiplos atributos protegidos
4. Comparar resultados com os limiares definidos no framework
5. Identificar subgrupos mais afetados e padrões de discriminação

Ferramentas sugeridas: Aequitas (University of Chicago), What-If Tool (Google), análises estatísticas customizadas.

5.4 Etapa 4 — Avaliação de Transparência (Semanas 5–7)

Objetivo: Avaliar a Dimensão 3 (Transparência e Explicabilidade).

Atividades:

1. Verificar a existência e completude da documentação técnica (model cards, datasheets)
2. Testar mecanismos de explicação de decisões individuais com usuários representativos
3. Avaliar a acessibilidade dos mecanismos de contestação
4. Identificar variáveis mais influentes e avaliar o papel de proxies de atributos sensíveis (SHAP, LIME)
5. Documentar gaps e recomendações de melhoria

5.5 Etapa 5 — Consulta Participativa (Semanas 6–8)

Objetivo: Avaliar a Dimensão 4 (Participação de Grupos Afetados).

Atividades:

1. Identificar e contatar organizações representativas dos grupos afetados
2. Conduzir sessões de escuta com representantes de comunidades afetadas
3. Apresentar resultados preliminares das etapas anteriores em linguagem acessível
4. Coletar feedback sobre percepções de equidade, transparência e acessibilidade
5. Incorporar contribuições ao relatório final

Orientações: As consultas devem ser conduzidas em espaços acessíveis, com linguagem adaptada ao público, e com remuneração ou compensação adequada pelo tempo dos participantes. Devem ser priorizados grupos historicamente sub-representados em processos de consulta.

5.6 Etapa 6 — Relatório e Plano de Ação (Semanas 8–10)

Objetivo: Consolidar achados e definir ações de mitigação, avaliando também a Dimensão 5 (Monitoramento Contínuo).

Atividades:

1. Consolidar resultados das cinco dimensões em relatório integrado
2. Classificar o risco de viés do sistema segundo a matriz do framework
3. Propor ações corretivas priorizadas, com responsáveis, prazos e métricas de sucesso
4. Definir plano de monitoramento contínuo com periodicidade e métricas
5. Submeter relatório à aprovação da alta administração e a stakeholders afetados

Entregas: Relatório de avaliação de vieses; plano de ação corretivo; plano de monitoramento contínuo; sumário executivo para alta administração.

6. Estudo de Caso Ilustrativo: Credit Scoring no Brasil

Para demonstrar a aplicabilidade do framework, apresentamos um estudo de caso hipotético, porém fundamentado em dados e dinâmicas realistas do mercado de crédito brasileiro.

6.1 Contexto

Uma instituição financeira de médio porte, atuante em crédito pessoal e consignado, utiliza um modelo de machine learning para decisões de aprovação de crédito e definição de limites e taxas de juros. O modelo foi treinado com dados históricos de cinco anos de operação (2020–2024), incluindo variáveis sociodemográficas, financeiras e comportamentais de aproximadamente dois milhões de clientes. A instituição atua predominantemente nas regiões Sudeste e Nordeste, com público-alvo de classes C e D — segmento em que as desigualdades raciais e regionais são particularmente pronunciadas.

6.2 Aplicação do Framework

Dimensão 1 — Representatividade dos Dados

A auditoria de dados revela:

• A base de clientes possui 52% de autodeclarados brancos, 15% de pretos e 28% de pardos, com 5% sem informação de raça/cor. Comparada à distribuição demográfica da população brasileira (43% brancos, 10% pretos, 47% pardos segundo IBGE, 2023), há sub-representação significativa de pessoas pardas (índice de representatividade de 0,60) e sobre-representação de pessoas brancas (1,21)
• A completude de dados financeiros é 15 pontos percentuais menor para clientes com renda inferior a 2 salários mínimos, faixa em que pessoas negras estão sobre-representadas
• O CEP é utilizado como variável preditiva, e análise de correlação revela associação estatisticamente significativa entre CEP e raça/cor (r = 0,42), configurando proxy racial
• Dados de renda informal (estimados em 40% da população economicamente ativa) são tratados como dados ausentes, não como categoria própria

Classificação da dimensão: Risco Alto — sub-representação significativa e utilização de proxy racial sem mitigação.

Dimensão 2 — Equidade de Resultados

Os testes de equidade revelam:

• Taxa de aprovação de crédito: 68% para brancos, 51% para pretos, 55% para pardos. DIR (preto/branco) = 0,75, abaixo do limiar de 0,8
• Falsos negativos (crédito negado a bons pagadores): 12% para brancos, 22% para pretos, 18% para pardos
• Análise interseccional: mulheres negras com renda entre 1 e 2 salários mínimos apresentam taxa de aprovação de 38%, contra 72% para homens brancos na mesma faixa de renda (DIR = 0,53)
• Taxas de juros atribuídas são, em média, 2,3 pontos percentuais mais altas para clientes negros, mesmo controlando score de crédito

Classificação da dimensão: Risco Crítico — disparidades acima dos limiares em múltiplas métricas, agravadas na análise interseccional.

Dimensão 3 — Transparência e Explicabilidade

A avaliação identifica:

• Model card disponível internamente, mas não publicado para clientes
• Decisões de recusa acompanhadas de motivo genérico ("perfil de crédito insuficiente"), sem detalhamento das variáveis determinantes
• Mecanismo de contestação existe, mas exige comparecimento presencial e apresentação de documentação — barreira significativa para populações vulneráveis
• Análise SHAP revela que CEP está entre as três variáveis mais influentes em 40% das decisões, mas essa informação não é disponibilizada

Classificação da dimensão: Risco Alto — explicabilidade insuficiente e mecanismos de contestação com barreiras de acesso.

Dimensão 4 — Participação de Grupos Afetados

A avaliação identifica:

• Nenhuma consulta a organizações representativas de comunidades afetadas foi realizada durante o desenvolvimento do modelo
• Canal de atendimento ao cliente disponível, mas sem mecanismo específico para feedback sobre equidade algorítmica
• Equipe de desenvolvimento composta por 85% de homens brancos, sem política de diversidade para equipes de dados e modelagem

Classificação da dimensão: Risco Crítico — ausência total de participação de grupos afetados.

Dimensão 5 — Monitoramento Contínuo

A avaliação identifica:

• Monitoramento de performance do modelo (acurácia, AUC) realizado mensalmente, mas sem desagregação por grupo demográfico
• Nenhuma métrica de equidade incluída no pipeline de monitoramento
• Ausência de gatilhos automáticos para revisão de vieses
• Nenhum relatório de equidade publicado ou disponibilizado a reguladores

Classificação da dimensão: Risco Alto — monitoramento técnico presente, mas sem perspectiva de equidade.

6.3 Resultado Consolidado e Recomendações

Classificação geral do sistema: Risco Alto (pontuação agregada estimada em 28%)

Recomendações prioritárias:

1. Imediato (0–30 dias): Suspender a utilização do CEP como variável direta no modelo; implementar monitoramento de métricas de equidade desagregadas por raça/cor e gênero
2. Curto prazo (30–90 dias): Enriquecer a base de dados com fontes que melhorem a representatividade de populações sub-representadas; implementar explicações detalhadas para decisões de recusa; criar canal digital de contestação acessível
3. Médio prazo (90–180 dias): Conduzir consulta estruturada com organizações representativas de comunidades negras e de periferias urbanas; redesenhar o modelo com restrições de equidade explícitas (fairness constraints); publicar primeiro relatório de equidade
4. Contínuo: Monitoramento trimestral de métricas de equidade com desagregação interseccional; auditoria anual independente; programa de diversidade para equipes de dados e modelagem

Este estudo de caso ilustra como o framework permite identificar de forma sistemática vieses que, frequentemente, permanecem invisíveis em avaliações puramente técnicas de performance de modelos. A perspectiva interseccional revelou disparidades (DIR = 0,53 para mulheres negras de baixa renda) que análises unidimensionais não captariam, demonstrando a importância de uma abordagem que reconheça a complexidade das desigualdades brasileiras.

7. Discussão

7.1 Implicações para Políticas Públicas

O framework proposto tem implicações diretas para o desenho de políticas públicas de regulação de IA no Brasil. Em primeiro lugar, reforça a necessidade de que o PL 2338/2023, em sua regulamentação, inclua requisitos específicos de avaliação de vieses para sistemas de alto risco, com métricas adaptadas ao contexto brasileiro e com ênfase na desagregação por raça/cor — atributo frequentemente omitido em avaliações técnicas por alegadas dificuldades de coleta.

Em segundo lugar, a dimensão de Participação de Grupos Afetados aponta para a necessidade de mecanismos institucionais que garantam a voz de comunidades impactadas no processo regulatório. O Brasil possui experiência relevante em participação social — conselhos de políticas públicas, conferências nacionais, audiências públicas — que pode ser adaptada para o contexto da governança de IA (AVRITZER, 2012).

Em terceiro lugar, o framework evidencia a importância de investimentos públicos em infraestrutura de dados representativos. A ausência de dados demográficos de qualidade — particularmente sobre populações indígenas, quilombolas e periféricas — é um obstáculo estrutural para qualquer esforço sério de avaliação de vieses. Programas como o Censo Demográfico e a PNAD Contínua do IBGE são fundamentais, mas insuficientes quando consideramos as necessidades específicas de auditoria algorítmica.

7.2 Implicações para Organizações

Para organizações que desenvolvem ou utilizam sistemas de IA, o framework oferece um roteiro concreto e estruturado de avaliação. A adoção proativa de práticas de avaliação de vieses não é apenas uma questão de compliance regulatório — é uma questão de gestão de riscos reputacionais, jurídicos e operacionais. Organizações que identificam e mitigam vieses de forma transparente posicionam-se favoravelmente em um ambiente regulatório em rápida evolução.

O framework também destaca a importância da diversidade organizacional como fator de mitigação de vieses. Equipes homogêneas — em termos de raça, gênero, classe e formação — tendem a reproduzir pontos cegos que se materializam nos sistemas que desenvolvem. A dimensão de Participação de Grupos Afetados não é um exercício de relações públicas, mas uma prática técnica que melhora a qualidade dos sistemas ao incorporar perspectivas que equipes homogêneas não possuem.

7.3 Limitações do Framework

O presente framework apresenta limitações que devem ser reconhecidas. Primeiro, a operacionalização de métricas de equidade no contexto brasileiro esbarra na dificuldade de coleta de dados demográficos — particularmente raça/cor — de forma confiável e ética. A autodeclaração, embora seja o padrão adotado pelo IBGE e recomendado pelo Estatuto da Igualdade Racial, apresenta limitações quando utilizada como base para auditorias algorítmicas.

Segundo, os limiares propostos (DIR de 0,8, diferenças de 5 pontos percentuais) são adaptativos e devem ser interpretados à luz do contexto. Em alguns cenários, disparidades menores podem ser inaceitáveis; em outros, disparidades maiores podem ser justificáveis por fatores legítimos. O framework não elimina a necessidade de julgamento humano e deliberação ética.

Terceiro, o framework foca em vieses identificáveis e mensuráveis, mas vieses algorítmicos podem operar de formas sutis e sistêmicas que escapam a métricas pontuais. A interação entre múltiplos sistemas de IA, cada um com vieses pequenos mas cumulativos, pode gerar efeitos discriminatórios que nenhuma avaliação individual captaria.

Quarto, a validação empírica do framework — sua aplicação em organizações reais, com dados reais — é uma etapa futura essencial que ainda não foi conduzida. O estudo de caso apresentado é ilustrativo e, embora fundamentado em dinâmicas realistas, não substitui a experiência de aplicação prática.

7.4 Contribuição para o Debate Internacional

Este trabalho contribui para o debate internacional sobre justiça algorítmica ao demonstrar que frameworks de avaliação de vieses devem ser contextualmente situados. A experiência brasileira — com sua complexa dinâmica racial, sua desigualdade estrutural e sua tradição de participação social — oferece aprendizados que podem informar o desenvolvimento de abordagens similares em outros países do Sul Global.

A perspectiva interseccional operacionalizada no framework responde a críticas recorrentes na literatura de que abordagens de fairness baseadas em atributos unidimensionais são insuficientes (BAUER, 2021). A inclusão da dimensão de Participação de Grupos Afetados como elemento estruturante — e não acessório — da avaliação representa uma evolução em relação a frameworks que tratam equidade como problema exclusivamente técnico.

8. Conclusão e Recomendações

Este working paper partiu de uma constatação: a automação de decisões em um país marcado por desigualdades profundas exige instrumentos específicos de avaliação e mitigação de vieses algorítmicos. Os frameworks internacionais existentes, embora valiosos como referência, são insuficientes para capturar as formas específicas de discriminação que operam no contexto brasileiro.

O framework IBGIA de avaliação de vieses algorítmicos, estruturado em cinco dimensões — Representatividade dos Dados, Equidade de Resultados, Transparência e Explicabilidade, Participação de Grupos Afetados e Monitoramento Contínuo —, oferece uma abordagem sistemática e contextualizada para organizações que buscam identificar e mitigar vieses em seus sistemas de IA. A metodologia de aplicação em seis etapas e o estudo de caso ilustrativo demonstram a viabilidade prática da proposta.

Com base no trabalho desenvolvido, apresentamos as seguintes recomendações:

8.1 Para Organizações

1. Adotar o framework como referência para avaliação periódica de vieses em sistemas de IA, integrando-o a processos existentes de gestão de riscos e governança
2. Investir na coleta ética e responsável de dados demográficos que permitam auditorias de equidade, em conformidade com a LGPD e o Estatuto da Igualdade Racial
3. Promover diversidade nas equipes de desenvolvimento e avaliação de IA, com metas concretas e mensuráveis
4. Estabelecer mecanismos permanentes de diálogo com comunidades afetadas por decisões algorítmicas

8.2 Para Reguladores

5. Incorporar requisitos de avaliação de vieses na regulamentação do PL 2338/2023, com métricas e limiares adaptados ao contexto brasileiro
6. Exigir a publicação de relatórios de equidade por operadores de sistemas de IA de alto risco
7. Investir na capacitação técnica de órgãos reguladores para supervisão de vieses algorítmicos
8. Criar sandboxes regulatórios específicos para teste de metodologias de avaliação de equidade

8.3 Para Formuladores de Políticas Públicas

9. Financiar pesquisas sobre vieses algorítmicos no contexto brasileiro, priorizando estudos empíricos com dados desagregados
10. Estabelecer programas de inclusão digital que reduzam lacunas de representação em bases de dados
11. Garantir mecanismos de participação social no processo de regulação de IA, com representação efetiva de comunidades vulneráveis
12. Promover a cooperação Sul-Sul para desenvolvimento de frameworks de justiça algorítmica adaptados a contextos de alta desigualdade

8.4 Próximos Passos

O IBGIA planeja as seguintes etapas de continuidade deste trabalho: (i) validação empírica do framework por meio de estudos de caso em organizações brasileiras; (ii) desenvolvimento de ferramenta digital de autoavaliação baseada no framework; (iii) elaboração de guias setoriais (crédito, saúde, segurança pública, assistência social); e (iv) construção de rede de organizações parceiras para troca de experiências em avaliação de vieses.

O enfrentamento de vieses algorítmicos não é apenas um desafio técnico — é um imperativo ético e político. Em um país cuja história é marcada por desigualdades profundas, permitir que sistemas de IA reproduzam e ampliem essas desigualdades sem escrutínio adequado seria uma falha de governança com consequências geracionais. O IBGIA convida organizações, pesquisadores e formuladores de políticas públicas a engajarem-se nesse esforço coletivo.

Referências

ALMEIDA, S. Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019.

ANGWIN, J. et al. Machine Bias: There's Software Used Across the Country to Predict Future Criminals. And It's Biased Against Blacks. ProPublica, 23 maio 2016.

AVRITZER, L. Conferências nacionais: ampliando e redefinindo os padrões de participação social no Brasil. Texto para Discussão IPEA, n. 1739, Brasília, 2012.

BANCO CENTRAL DO BRASIL. Relatório de Economia Bancária 2023. Brasília: BCB, 2024.

BAROCAS, S.; HARDT, M.; NARAYANAN, A. Fairness and Machine Learning: Limitations and Opportunities. Cambridge: MIT Press, 2023.

BAUER, G. R. Intersectionality and algorithmic fairness: existing proposals and outstanding challenges. AI & Society, v. 36, p. 1265–1277, 2021.

BENJAMIN, R. Race After Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity Press, 2019.

BUOLAMWINI, J.; GEBRU, T. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research, v. 81, p. 1–15, 2018.

CEPAL. Panorama Social da América Latina e do Caribe 2024. Santiago: Comissão Econômica para a América Latina e o Caribe, 2024.

CHOULDECHOVA, A. Fair Prediction with Disparate Impact: A Study of Bias in Recidivism Prediction Instruments. Big Data, v. 5, n. 2, p. 153–163, 2017.

CRENSHAW, K. Demarginalizing the Intersection of Race and Sex: A Black Feminist Critique of Antidiscrimination Doctrine. University of Chicago Legal Forum, v. 1989, n. 1, p. 139–167, 1989.

DEPEN. Levantamento Nacional de Informações Penitenciárias (Infopen). Brasília: Departamento Penitenciário Nacional, 2024.

EEOC — Equal Employment Opportunity Commission. Uniform Guidelines on Employee Selection Procedures. 29 CFR Part 1607. Washington: EEOC, 1978.

EUBANKS, V. Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. New York: St. Martin's Press, 2018.

EUROPEAN UNION. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, 2024.

GONZALEZ, L. Por um feminismo afro-latino-americano: ensaios, intervenções e diálogos. Rio de Janeiro: Zahar, 2020.

IBGE. Pesquisa Nacional por Amostra de Domicílios Contínua: Características Gerais dos Moradores 2022. Rio de Janeiro: Instituto Brasileiro de Geografia e Estatística, 2023.

KLEINBERG, J.; MULLAINATHAN, S.; RAGHAVAN, M. Inherent Trade-Offs in the Fair Determination of Risk Scores. Proceedings of Innovations in Theoretical Computer Science (ITCS), 2017.

LAVINAS, L.; GENTIL, D. L. Política social e digitalização: riscos e desafios para a proteção social no Brasil. Revista de Economia Política, v. 44, n. 2, 2024.

NIST. AI Risk Management Framework (AI RMF 1.0). NIST AI 100-1. Gaithersburg: National Institute of Standards and Technology, 2023.

NOBLE, S. U. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: NYU Press, 2018.

OBERMEYER, Z. et al. Dissecting racial bias in an algorithm used to manage the health of populations. Science, v. 366, n. 6464, p. 447–453, 2019.

O'NEIL, C. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown, 2016.

OSÓRIO, R. G. O sistema classificatório de "cor ou raça" do IBGE. Texto para Discussão IPEA, n. 996, Brasília, 2003.

REDE DE OBSERVATÓRIOS DA SEGURANÇA. Reconhecimento facial e vigilância: um balanço crítico 2019–2024. Rio de Janeiro: CESeC, 2024.

SANTOS, M. A urbanização brasileira. 5. ed. São Paulo: EDUSP, 2023.

SILVA, T. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc, 2022.

SILVA, T.; MELLO, L. Dados ausentes, vieses presentes: a invisibilidade estatística como vetor de discriminação algorítmica. Internet & Sociedade, v. 5, n. 1, 2024.

SINHORETTO, J.; SILVESTRE, G.; SCHLITTLER, M. C. Desigualdade racial e segurança pública em São Paulo: letalidade policial e prisões em flagrante. São Carlos: UFSCar, 2014.

UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021.

---

IBGIA Working Papers — ISSN em processo de registro

Esta publicação é licenciada sob Creative Commons BY-NC-SA 4.0.

Como citar: NAKAMURA, A.; ALMEIDA, T. Vieses algorítmicos e justiça social: um framework de avaliação para o contexto brasileiro. IBGIA Working Paper, WP-2026-003, março 2026.