IA no setor público brasileiro: oportunidades e riscos

A administração pública brasileira encontra-se em um ponto de inflexão no uso de Inteligência Artificial. Sistemas algorítmicos já operam em áreas tão diversas quanto a gestão tributária da Receita Federal, a triagem de processos no Poder Judiciário, a vigilância urbana por reconhecimento facial, a alocação de recursos no Sistema Único de Saúde (SUS) e a identificação de fraudes em programas sociais.

Essa adoção, contudo, ocorre de forma desigual, fragmentada e frequentemente sem mecanismos adequados de governança, transparência e controle social. O resultado é um quadro de oportunidades significativas convivendo com riscos igualmente substanciais para direitos fundamentais, equidade e legitimidade democrática.

O panorama da IA no setor público brasileiro

Poder Judiciário

O Judiciário brasileiro é um dos mais avançados do mundo na adoção de tecnologia. O Conselho Nacional de Justiça (CNJ) tem promovido ativamente o uso de IA nos tribunais, com iniciativas como o sistema VICTOR (Supremo Tribunal Federal), projetado para auxiliar na classificação de recursos extraordinários por tema de repercussão geral, e o ELIS (Tribunal de Justiça de Rondônia), utilizado para análise de textos jurídicos.

Segundo levantamento do CNJ (2022), mais de 60 tribunais brasileiros reportaram utilizar alguma forma de IA em suas operações. As aplicações incluem triagem de processos, classificação de documentos, sugestão de minutas, cálculo de penas e análise preditiva de demandas.

Receita Federal e gestão tributária

A Receita Federal é uma das instituições públicas brasileiras mais avançadas no uso de IA. Sistemas de Machine Learning são empregados para detecção de fraudes, classificação de risco de contribuintes, análise de malha fina e otimização de fiscalização. Esses sistemas processam milhões de declarações anualmente, identificando padrões que seriam impossíveis de detectar manualmente.

Segurança pública

O uso de IA em segurança pública no Brasil abrange reconhecimento facial, policiamento preditivo, monitoramento de redes sociais e análise de inteligência. Diversos estados implementaram sistemas de reconhecimento facial em espaços públicos, especialmente durante grandes eventos. O Ministério da Justiça tem investido em plataformas de análise de dados para apoio às forças de segurança.

Saúde pública

O SUS enfrenta desafios enormes de escala e eficiência que a IA pode ajudar a endereçar. Sistemas de IA têm sido experimentados para triagem de pacientes, diagnóstico auxiliado por imagem, previsão de demanda hospitalar, gestão de estoques de medicamentos e monitoramento epidemiológico. A experiência da pandemia de COVID-19 acelerou a adoção de ferramentas digitais e algoritmos preditivos no sistema de saúde.

Programas sociais

Programas como o Bolsa Família utilizam sistemas algorítmicos para identificação de beneficiários, verificação de elegibilidade, detecção de fraudes e cruzamento de bases de dados. A integração do Cadastro Único com múltiplas bases governamentais, mediada por algoritmos, afeta diretamente o acesso de milhões de famílias a direitos sociais.

Oportunidades: o potencial transformador

A IA oferece ao setor público brasileiro oportunidades genuínas de melhoria que não devem ser subestimadas.

Eficiência e escala. O Brasil é um país de dimensões continentais, com mais de 200 milhões de habitantes e uma administração pública que enfrenta restrições crônicas de pessoal e recursos. A IA pode amplificar a capacidade operacional do Estado, permitindo que processos que demandariam milhares de servidores sejam realizados de forma mais rápida e eficiente. A automatização de tarefas repetitivas libera servidores públicos para atividades que exigem julgamento humano e interação com cidadãos.

Qualidade dos serviços. Sistemas de IA podem contribuir para a melhoria da qualidade dos serviços públicos, desde diagnósticos médicos mais precisos até a identificação mais rápida de fraudes que desviam recursos de quem precisa. A personalização de serviços — com atendimento adaptado às necessidades específicas de cada cidadão — é outra possibilidade que a IA viabiliza em escala.

Tomada de decisão informada. Gestores públicos podem se beneficiar de análises preditivas e baseadas em evidências para a formulação de políticas públicas, a alocação de recursos e a avaliação de programas. Modelos de previsão de demanda, simulação de cenários e análise de impacto podem fundamentar decisões com maior rigor técnico.

Inclusão e acesso. Assistentes virtuais, tradução automática, processamento de linguagem natural e outras aplicações de IA podem facilitar o acesso de cidadãos a serviços públicos, especialmente para populações com barreiras de idioma, alfabetização ou acesso geográfico.

Transparência e accountability. Paradoxalmente, a IA pode ser tanto ameaça quanto instrumento de transparência. Sistemas de análise de dados abertos, monitoramento de gastos públicos e detecção de irregularidades podem fortalecer o controle social e a accountability governamental.

Riscos: o que pode dar errado

Os riscos do uso de IA pelo setor público são particularmente graves porque envolvem o exercício do poder estatal sobre cidadãos.

Riscos para direitos fundamentais

Discriminação algorítmica. Quando o Estado utiliza IA para tomar ou informar decisões que afetam direitos — acesso a benefícios sociais, classificação de risco tributário, policiamento, decisões judiciais —, vieses algorítmicos se tornam violações de direitos fundamentais perpetradas pelo próprio Estado. A gravidade é amplificada pela assimetria de poder entre o Estado e o cidadão e pela dificuldade de contestação.

Vigilância e privacidade. O uso de reconhecimento facial, monitoramento de redes sociais e cruzamento massivo de bases de dados governamentais cria riscos significativos de vigilância estatal. A capacidade de rastrear, perfilar e monitorar cidadãos em escala sem precedentes coloca em xeque direitos fundamentais de privacidade, liberdade de expressão e associação.

Devido processo legal. Quando decisões que afetam direitos de cidadãos são tomadas ou influenciadas por algoritmos opacos, o direito ao devido processo legal pode ser comprometido. Como um cidadão pode contestar efetivamente uma decisão cujas razões estão codificadas em um modelo de Machine Learning que nem o próprio servidor público compreende?

Riscos de governança

Opacidade e falta de accountability. Muitos sistemas de IA no setor público brasileiro operam sem documentação adequada, sem avaliações de impacto e sem mecanismos de transparência para cidadãos ou órgãos de controle. Tribunais de Contas, Ministério Público e a própria população frequentemente não têm visibilidade sobre os sistemas algorítmicos que afetam suas vidas.

Dependência de fornecedores privados. Boa parte dos sistemas de IA utilizados pelo setor público é adquirida de fornecedores privados, frequentemente sem transferência de conhecimento, sem acesso ao código-fonte e sem possibilidade de auditoria independente. Essa dependência cria riscos de lock-in tecnológico e dificulta a accountability.

Fragmentação e falta de coordenação. A adoção de IA pelo setor público brasileiro é fragmentada, sem uma estratégia nacional coerente de governança de IA governamental. Cada órgão adota soluções de forma independente, com padrões e práticas de governança heterogêneos — ou inexistentes.

Capacitação insuficiente. Muitos gestores e servidores públicos que adquirem, implantam ou operam sistemas de IA não possuem formação adequada para avaliar seus riscos, limitações e requisitos de governança. A lacuna de capacitação é uma das principais barreiras para a governança efetiva de IA no setor público.

Princípios para a governança de IA no setor público

Com base na análise de riscos e oportunidades, e alinhado com recomendações de organizações como a OCDE (2019), o Banco Mundial e a UNESCO, propomos os seguintes princípios para orientar a governança de IA no setor público brasileiro.

1. Legalidade e respeito a direitos fundamentais

Todo uso de IA pelo setor público deve ter fundamento legal e respeitar os direitos fundamentais consagrados na Constituição Federal, na LGPD e nos tratados internacionais de direitos humanos dos quais o Brasil é signatário. Sistemas de IA não devem ser implantados em contextos onde o risco para direitos fundamentais supere os benefícios públicos.

2. Transparência e auditabilidade

Sistemas de IA utilizados pelo setor público devem ser documentados, explicáveis e auditáveis. Cidadãos afetados por decisões algorítmicas devem ser informados sobre o uso de IA e ter acesso a explicações compreensíveis. Órgãos de controle (Tribunal de Contas, Ministério Público, Controladoria) devem ter acesso irrestrito para fins de auditoria.

3. Avaliação de impacto obrigatória

A implantação de sistemas de IA pelo setor público deve ser precedida de uma Avaliação de Impacto que considere dimensões técnicas, éticas, jurídicas e sociais, com atenção especial a riscos de discriminação e impactos sobre populações vulneráveis. Essa avaliação deve ser pública e sujeita a escrutínio social.

4. Supervisão humana significativa

Decisões do setor público que afetem direitos de cidadãos devem manter supervisão humana significativa. A supervisão não pode ser meramente formal — o servidor público responsável deve ter capacitação, acesso à informação e autoridade para divergir da recomendação algorítmica quando as circunstâncias o justificarem.

5. Equidade e não discriminação

Sistemas de IA no setor público devem ser submetidos a testes de equidade antes da implantação e monitorados continuamente para a detecção de vieses. A atenção às desigualdades estruturais brasileiras — raciais, socioeconômicas, regionais e de gênero — deve ser prioritária.

6. Participação social

A adoção de IA pelo setor público deve ser acompanhada de mecanismos de participação social, incluindo consultas públicas, audiências e canais de feedback. Comunidades afetadas devem ter voz no processo de decisão sobre a implantação de sistemas algorítmicos que impactem suas vidas.

7. Proporcionalidade e necessidade

O uso de IA pelo setor público deve ser proporcional e necessário. O fato de ser tecnicamente possível utilizar IA não significa que seja apropriado fazê-lo. A decisão de implantar um sistema de IA deve ser fundamentada em uma análise de custo-benefício que considere alternativas menos intrusivas.

Recomendações práticas

Para o Governo Federal

• Estabelecer uma Estratégia Nacional de Governança de IA no Setor Público, com princípios, diretrizes e mecanismos de coordenação entre órgãos.
• Criar um registro público de sistemas de IA utilizados pela administração federal, com informações sobre finalidade, dados utilizados, avaliações de impacto e métricas de desempenho.
• Investir na capacitação de servidores públicos em governança de IA, especialmente nas áreas de aquisição, implantação e supervisão de sistemas algorítmicos.
• Estabelecer requisitos de governança de IA em processos licitatórios para aquisição de soluções de IA, incluindo obrigações de transparência, auditabilidade e transferência de conhecimento.

Para o Poder Judiciário

• Regulamentar o uso de IA em tribunais, com requisitos de transparência, explicabilidade e direito de contestação por partes processuais.
• Garantir que sistemas de IA judiciais sejam submetidos a avaliações de viés e impacto antes da implantação.
• Assegurar que o uso de IA em decisões judiciais seja sempre auxiliar, preservando a independência e o julgamento do magistrado.

Para os órgãos de controle

• Desenvolver capacidade técnica para auditar sistemas de IA utilizados pelo setor público.
• Incluir a avaliação de sistemas algorítmicos nos processos regulares de auditoria e fiscalização.
• Exigir transparência e documentação de sistemas de IA como parte dos requisitos de accountability governamental.

Considerações finais

A IA tem potencial para transformar positivamente o setor público brasileiro, tornando-o mais eficiente, inclusivo e responsivo às necessidades dos cidadãos. Mas esse potencial só se realizará se a adoção de IA for acompanhada de governança adequada, transparência, participação social e respeito a direitos fundamentais.

O Estado brasileiro tem a obrigação constitucional de respeitar e promover os direitos de seus cidadãos. Quando o Estado delega decisões a algoritmos, essa obrigação não desaparece — ela se transfere para a governança desses sistemas. A qualidade da democracia brasileira no século XXI dependerá, em parte significativa, da qualidade da governança de IA no setor público.

---

Referências

• CNJ — CONSELHO NACIONAL DE JUSTIÇA. Justiça 4.0: Mapeamento do uso de Inteligência Artificial nos tribunais brasileiros. CNJ, 2022.
• OECD. Recommendation of the Council on Artificial Intelligence. OECD/LEGAL/0449, 2019 (atualizada em 2024).
• OECD. Hello, World: Artificial Intelligence and its Use in the Public Sector. OECD Working Papers on Public Governance, nº 36, 2019.
• UNESCO. Recommendation on the Ethics of Artificial Intelligence. UNESCO, 2021.
• WORLD BANK. GovTech Maturity Index: The State of Public Sector Digital Transformation. World Bank, 2022.
• BRASIL. Constituição da República Federativa do Brasil de 1988.
• BRASIL. Lei nº 13.709/2018 (Lei Geral de Proteção de Dados Pessoais — LGPD).
• BRASIL. Projeto de Lei nº 2338/2023. Dispõe sobre o uso da Inteligência Artificial. Senado Federal, 2023.
• SILVA, V. A.; NUNES, D. F. Inteligência Artificial no Poder Judiciário: Desafios e Perspectivas. Revista de Direito e as Novas Tecnologias, v. 12, 2023.
• INSTITUTO IGARAPÉ. Reconhecimento Facial no Brasil: Riscos e Recomendações. Nota Técnica, 2023.

---

Camila Duarte é pesquisadora associada do IBGIA — Instituto Brasileiro de Governança em Inteligência Artificial, com foco em IA no setor público e políticas de inovação governamental.