Governança de IA no Setor Público
Como garantir que a inteligência artificial utilizada pelo Estado brasileiro respeite direitos fundamentais, opere com transparência e mantenha o cidadão no centro das decisões.
IA no Estado: Poder Algorítmico e Direitos Fundamentais
O uso de inteligência artificial pelo poder público brasileiro avança em ritmo acelerado. Algoritmos já participam de decisões sobre benefícios sociais, triagem judicial, fiscalização tributária, segurança pública e gestão de saúde. Em muitos casos, essas decisões afetam diretamente direitos fundamentais dos cidadãos — e a assimetria de poder entre Estado e indivíduo torna a governança de IA especialmente crítica neste contexto.
Diferente do setor privado, onde o cidadão pode (ao menos em tese) escolher outro fornecedor, a relação com o Estado é frequentemente obrigatória. Quando o INSS usa IA para negar um benefício, quando um tribunal usa IA para triar um processo, ou quando a Receita Federal usa IA para selecionar um contribuinte para fiscalização, o cidadão não tem alternativa — precisa se submeter à decisão algorítmica. Por isso, a governança de IA no setor público exige padrões mais rigorosos de transparência, equidade e accountability. Para compreender os conceitos técnicos, consulte nosso glossário de governança de IA.
Principais Desafios
O uso de IA pelo poder público levanta desafios únicos, dada a relação de poder assimétrica entre Estado e cidadão.
Decisões automatizadas sobre direitos
O poder público brasileiro já utiliza algoritmos para decidir sobre concessão de benefícios sociais (INSS, BPC, Bolsa Família), priorização de atendimentos no SUS, triagem de processos judiciais e fiscalização tributária. Essas decisões automatizadas afetam diretamente direitos fundamentais — e muitas vezes operam sem que o cidadão saiba que um algoritmo participou da decisão, sem possibilidade efetiva de contestação e sem mecanismos de auditoria pública.
Vigilância e reconhecimento facial
O uso de tecnologias de vigilância por IA se expande rapidamente no Brasil: reconhecimento facial em aeroportos e estádios, monitoramento de vias públicas por câmeras inteligentes, análise de dados de telecomunicações e redes sociais. Estudos documentam taxas de erro desproporcionais em populações negras — até 10 vezes mais falsos positivos. A vigilância massiva também gera efeitos inibidores sobre direitos de reunião e manifestação, afetando a democracia.
Transparência e accountability algorítmica
O princípio constitucional da publicidade (art. 37, CF) exige que atos administrativos sejam transparentes. No entanto, quando decisões são tomadas ou influenciadas por algoritmos de IA, a transparência se torna especialmente complexa: modelos de machine learning podem ser genuinamente opacos (caixas-pretas), segredos industriais podem ser invocados por fornecedores, e a complexidade técnica cria barreiras para a compreensão cidadã e o controle social.
Exclusão digital e viés institucional
A digitalização de serviços públicos mediada por IA pode ampliar a exclusão de populações com menor letramento digital, menor acesso à internet e menor capacidade de navegar interfaces tecnológicas. Além disso, algoritmos treinados com dados históricos de instituições públicas podem perpetuar vieses institucionais — como discriminação racial no sistema de justiça criminal ou exclusão de comunidades tradicionais de programas sociais.
Regulação e Estratégia Nacional
O arcabouço regulatório para IA no setor público brasileiro combina legislação existente, projetos de lei e estratégias nacionais.
PL 2338/2023 — Marco Legal da IA
Classificação de alto riscoO principal projeto de lei para regulação de IA no Brasil tem implicações diretas para o setor público. O PL classifica como alto risco sistemas de IA usados em decisões sobre direitos fundamentais, benefícios sociais, segurança pública e justiça criminal. Para esses sistemas, exige avaliação de impacto algorítmico, supervisão humana, transparência, explicabilidade e mecanismos de contestação. O PL também prevê a criação de um órgão regulador com competência para fiscalizar o uso de IA pelo próprio Estado.
LGPD no setor público
Art. 20 e 23 — setor públicoA LGPD se aplica ao setor público com adaptações: órgãos podem tratar dados pessoais para execução de políticas públicas (art. 7o, III e art. 23), mas devem informar as finalidades, respeitar os princípios da lei e garantir o direito de revisão de decisões automatizadas (art. 20). Na prática, a aplicação da LGPD ao setor público ainda enfrenta desafios: capacidade limitada de DPOs em órgãos públicos, sistemas legados sem privacy by design e cultura institucional de acumulação de dados.
ANPD e a regulação de IA governamental
Supervisão prioritáriaA Autoridade Nacional de Proteção de Dados tem papel central na supervisão do uso de IA pelo governo. Desde 2023, a ANPD publicou guias sobre tratamento de dados para IA, análises sobre IA generativa e tomada de decisão automatizada. A autoridade tem sinalizado que o setor público será foco de atuação prioritária, dada a assimetria de poder entre Estado e cidadão e o volume massivo de dados pessoais sob custódia governamental.
Estratégia Brasileira de IA (EBIA)
Estratégia nacionalLançada em 2021 e atualizada em 2024, a Estratégia Brasileira de Inteligência Artificial define prioridades para o uso de IA no país, incluindo o setor público. A EBIA reconhece a necessidade de governança robusta e prevê eixos de legislação, regulação e uso ético. O MCTI coordena a implementação, com participação de outros ministérios, ANPD e sociedade civil. Na prática, a implementação tem sido lenta e a governança do uso de IA pelo próprio governo federal ainda é fragmentada.
Casos Brasileiros
O poder público brasileiro já utiliza IA em larga escala. Estes são os contextos onde a governança responsável é mais urgente.
Judiciário: VICTOR, Athos e os 63+ sistemas de IA
O Judiciário brasileiro é um dos maiores utilizadores de IA no setor público global. O STF implantou o VICTOR para classificação de processos de repercussão geral; o TJMG desenvolveu o Elis para análise de decisões; o TST utiliza o Bem-Te-Vi para triagem trabalhista; e o CNJ cataloga mais de 63 projetos de IA em tribunais de todo o país. O sistema Athos, do STJ, realiza pesquisa jurisprudencial inteligente. Esses sistemas processam milhões de processos, mas levantam questões fundamentais sobre o princípio do juiz natural, motivação das decisões e acesso à justiça.
Desafios de Governança
- Viés algorítmico em predições judiciais: modelos treinados com decisões históricas podem perpetuar discriminações raciais, de gênero e socioeconômicas
- Falta de transparência: jurisdicionados e advogados frequentemente não sabem que IA participou da análise de seus processos
- Ausência de regulação específica: a Resolução 332/2020 do CNJ sobre IA no Judiciário é genérica e não estabelece mecanismos de auditoria obrigatória
- Capacitação: magistrados e servidores precisam de formação para compreender as limitações e vieses dos sistemas de IA que utilizam
O que o IBGIA propõe
- Implementar auditoria algorítmica obrigatória e periódica para todos os sistemas de IA no Judiciário, com publicação de relatórios de viés, desempenho e impacto, em conformidade com os princípios do PL 2338/2023
- Fortalecer a Resolução 332/2020 do CNJ com requisitos específicos de explicabilidade, transparência para jurisdicionados e mecanismos de contestação de decisões influenciadas por IA
INSS e decisões automatizadas sobre benefícios
O Instituto Nacional do Seguro Social (INSS) utiliza algoritmos para analisar milhões de requerimentos de aposentadoria, auxílio-doença, BPC e pensões. Sistemas automatizados calculam elegibilidade, detectam inconsistências, cruzam bases de dados e até negam benefícios sem intervenção humana. Para milhões de brasileiros em situação de vulnerabilidade, uma decisão algorítmica errada pode significar meses sem renda — num contexto em que a judicialização para reverter negativas é lenta e custosa.
Desafios de Governança
- Negativas automáticas: sistemas podem negar benefícios por inconsistências de dados que seriam facilmente resolvidas com análise humana
- Falta de explicação: segurados frequentemente recebem notificações genéricas sem detalhamento dos critérios algorítmicos de negativa
- Viés contra populações vulneráveis: trabalhadores informais, rurais e pessoas com deficiência podem ter perfis mal captados pelos modelos
- Judicialização massiva: decisões algorítmicas erradas geram milhões de processos judiciais, sobrecarregando o Judiciário e prolongando o sofrimento dos segurados
O que o IBGIA propõe
- Garantir o direito efetivo de revisão humana qualificada para todas as decisões automatizadas do INSS que neguem ou revoguem benefícios, com prazo máximo de resolução e canal acessível
- Exigir que o INSS publique relatórios periódicos sobre o desempenho dos sistemas de IA, incluindo taxas de negativa por perfil demográfico, taxas de reversão judicial e métricas de equidade
Receita Federal e fiscalização algorítmica
A Receita Federal do Brasil é reconhecida internacionalmente pela sofisticação tecnológica de seus sistemas de fiscalização. Algoritmos de IA analisam declarações de imposto de renda, cruzam bases de dados públicas e privadas, identificam padrões de sonegação e selecionam contribuintes para fiscalização. O sistema e-Processo automatiza fluxos administrativos, e modelos preditivos auxiliam na priorização de operações de combate à evasão fiscal e lavagem de dinheiro.
Desafios de Governança
- Opacidade na seleção de contribuintes: critérios algorítmicos para inclusão em malha fina ou abertura de procedimentos fiscais não são transparentes
- Risco de profiling discriminatório: seleção algorítmica pode concentrar fiscalização em grupos específicos (pequenos contribuintes, trabalhadores autônomos) de forma desproporcional
- Inversão do ônus da prova: na prática, o contribuinte selecionado por IA precisa provar que está correto, mesmo quando a seleção foi baseada em padrões estatísticos genéricos
- Segurança de dados: a Receita possui uma das maiores bases de dados pessoais do país, com riscos proporcionais de vazamento e uso indevido
O que o IBGIA propõe
- Criar mecanismos de transparência sobre os critérios algorítmicos de seleção para fiscalização, respeitando a necessidade de sigilo operacional mas permitindo auditoria por órgãos de controle
- Estabelecer avaliações periódicas de impacto dos sistemas de IA da Receita Federal, com análise de proporcionalidade e equidade na distribuição da fiscalização por faixa de renda e perfil demográfico
Como o IBGIA Pode Ajudar
Governança de IA no setor público com foco em direitos fundamentais
O IBGIA atua na interseção entre tecnologia, direito público e direitos fundamentais. Nosso trabalho no setor público se organiza em quatro frentes complementares:
- Auditoria de sistemas governamentais de IA: Desenvolvemos metodologias para avaliar viés, equidade e transparência em sistemas de IA utilizados por órgãos públicos, com foco em decisões que afetam direitos fundamentais.
- Advocacy regulatório: Participamos ativamente do debate sobre o PL 2338/2023, contribuindo com propostas específicas para governança de IA no setor público, especialmente em decisões sobre benefícios sociais, justiça e segurança pública.
- Capacitação de servidores públicos: Oferecemos programas de formação em governança de IA para gestores públicos, magistrados, procuradores e servidores, com foco nas especificidades constitucionais e administrativas do contexto brasileiro.
- Pesquisa e monitoramento: Produzimos pesquisas e relatórios sobre o estado da IA no setor público brasileiro, monitorando implementações, avaliando impactos e propondo boas práticas com base em evidências.
Aprofunde seu conhecimento
Receba análises sobre IA no setor público
Assine a newsletter do IBGIA e receba atualizações sobre governança de IA no governo, decisões automatizadas, PL 2338/2023 e casos no judiciário brasileiro.
Análises exclusivas sobre governança de IA
Receba análises, alertas regulatórios e frameworks práticos sobre IA no Brasil. Toda semana no seu email — gratuito.
Quer fortalecer a governança de IA no setor público?
Junte-se ao IBGIA e contribua para garantir que a inteligência artificial utilizada pelo Estado brasileiro respeite direitos fundamentais e opere com transparência.