Governança de IA na Prática
Exemplos reais de como a inteligência artificial impacta setores críticos no Brasil — e por que a governança responsável é indispensável em cada um deles.
Governança de IA não é um conceito abstrato. Sistemas de inteligência artificial já tomam ou influênciam decisões que afetam a vida de milhões de brasileiros — desde a concessão de benefícios sociais até diagnósticos médicos, passando por decisões de crédito e sentencas judiciais. Sem governança adequada, esses sistemas operam como caixas-pretas com poder real sobre direitos fundamentais.
Nesta página, apresentamos 15 casos de uso concretos em 5 setores da sociedade brasileira, mostrando os desafios de governança específicos de cada contexto e as propostas do IBGIA para endereca-los. Para aprofundar conceitos, consulte nosso glossário de governança de IA e a página sobre o marco de governança de IA no Brasil.
Setor Publico
IA em decisões que afetam direitos fundamentais dos cidadãos
Sistemas de IA nos tribunais
O Judiciário brasileiro já utiliza mais de 63 sistemas de IA, incluindo ferramentas de predição de sentencas, triagem automática de processos e análise documental. Sistemas como o Victor (STF) é o Elis (TJMG) processam milhares de casos, mas levantam questões serias sobre viés algorítmico e falta de transparência nas decisões automatizadas.
Desafios de Governança
- Vies algorítmico em predicoes judiciais que pode perpetuar desigualdades históricas
- Falta de transparência sobre como os algoritmos influênciam decisões processuais
- Ausência de mecanismos de auditoria independente dos sistemas utilizados
- Risco de erosão do princípio do juiz natural e da motivação das decisões
O que o IBGIA propoe
- Implementar frameworks de auditoria algorítmica obrigatória para sistemas judiciais, com publicação periódica de relatórios de viés e desempenho
- Estabelecer requisitos de explicabilidade para qualquer sistema de IA usado em decisões que afetem direitos fundamentais, conforme princípios do PL 2338/2023
Reconhecimento facial em segurança pública
O uso de reconhecimento facial por forças de segurança tem se expandido rapidamente no Brasil, com sistemas implantados em aeroportos, estadios e vias públicas. Estudos internacionais e casos brasileiros demonstram taxas de falsos positivos significativamente mais altas em populações negras, gerando prisoes injustas e violações de direitos.
Desafios de Governança
- Taxas de erro desproporcionais em populações negras — estudos mostram até 10x mais falsos positivos
- Ausência de marco legal específico para uso de biometria facial pelo poder público
- Falta de estudos de impacto antes da implantação em larga escala
- Efeito inibidor sobre direitos de reunião e manifestação (chilling effect)
O que o IBGIA propoe
- Exigir avaliações de impacto algorítmico antes de qualquer implantação de reconhecimento facial, incluindo análise de viés racial e de gênero
- Criar moratoria para uso em espaços públicos até que padrões mínimos de acuracia e equidade sejam estabelecidos por regulação
Algoritmos em benefícios sociais
Algoritmos são cada vez mais usados para decidir a concessão de benefícios como INSS, Bolsa Familia e BPC. Sistemas automatizados analisam perfis de beneficiarios, calculam elegibilidade e até detectam fraudes — decisões que impactam diretamente a sobrevivência de milhões de brasileiros em situação de vulnerabilidade.
Desafios de Governança
- Decisões automatizadas sobre direitos sociais sem possibilidade efetiva de recurso humano
- Dados de treinamento que podem refletir discriminações históricas contra populações vulneráveis
- Falta de transparência para beneficiarios sobre criterios algorítmicos de elegibilidade
- Risco de exclusão digital: populações que mais precisam dos benefícios são as com menor acesso a tecnologia
O que o IBGIA propoe
- Garantir o direito de revisão humana para todas as decisões automatizadas que neguem ou revoguem benefícios sociais
- Implementar mecanismos de explicação acessível para que beneficiarios compreendam como e por que decisões foram tomadas
Saúde
IA transformando diagnósticos, triagem e pesquisa clínica
Diagnóstico por IA
Sistemas de IA para detecção de câncer, análise de exames de imagem e auxílio diagnóstico estão sendo adotados por hospitais e laboratórios brasileiros. Essas ferramentas podem aumentar significativamente a precisao é a velocidade dos diagnósticos, mas trazem questões complexas sobre aprovação regulatória pela ANVISA e responsabilidade médica.
Desafios de Governança
- Aprovação regulatória: a ANVISA ainda está desenvolvendo frameworks para Software como Dispositivo Medico (SaMD) baseado em IA
- Responsabilidade medica: quem responde por um diagnóstico errado assistido por IA — o médico, o hospital ou o desenvolvedor?
- Vies nos dados de treinamento: modelos treinados majoritariamente com dados de populações do hemisferio norte podem ter desempenho inferior para a população brasileira
- Falta de validação clínica em larga escala com dados da população brasileira
O que o IBGIA propoe
- Desenvolver guidelines específicas para validação e certificação de sistemas de IA em saúde, em colaboração com ANVISA, CFM e sociedades médicas
- Exigir que sistemas de IA diagnóstica incluam informações sobre as populações nos quais foram treinados e validados, com testes obrigatórios na população brasileira
Triagem de pacientes no SUS
Algoritmos estão sendo usados para priorizar atendimentos no Sistema Único de Saúde, desde a classificação de risco em prontos-socorros até a ordenação de filas para cirurgias e consultas especializadas. Em um sistema com recursos limitados, essas decisões algorítmicas determinam literalmente quem e atendido primeiro.
Desafios de Governança
- Criterios algorítmicos de priorização que podem reproduzir desigualdades de acesso existentes no SUS
- Falta de transparência para pacientes sobre como a IA influência seu posicionamento na fila
- Risco de subnotificação de urgencias em populações com menor letramento em saúde
- Questoes éticas sobre delegar decisões de alocação de recursos escassos a algoritmos
O que o IBGIA propoe
- Criar comitês de ética em IA hospitalar para supervisionar a implementação e monitorar continuamente os resultados dos sistemas de triagem algorítmica
- Garantir que pacientes tenham acesso a informações claras sobre como a IA participa de decisões sobre seu atendimento, com direito a contestação
IA em pesquisa clínica
A inteligência artificial está acelerando o desenvolvimento de tratamentos, desde a descoberta de novos farmacos até a análise de grandes volumes de dados clínicos. No Brasil, instituições como a Fiocruz e hospitais de referência já utilizam IA para análise de dados epidemiologicos e identificação de padrões em prontuarios eletronicos.
Desafios de Governança
- Governança de dados de pacientes: garantir que dados sensíveis de saúde sejam utilizados de forma ética e em conformidade com a LGPD
- Consentimento informado: pacientes nem sempre sabem que seus dados serão usados para treinar modelos de IA
- Risco de concentração: empresas de tecnologia com maior acesso a dados podem monopolizar a pesquisa baseada em IA
- Reprodutibilidade científica: a opacidade de alguns modelos de IA dificulta a validação por pares
O que o IBGIA propoe
- Estabelecer protocolos de governança de dados de saúde para pesquisa com IA, incluindo requisitos de anonimização, consentimento e compartilhamento responsável
- Promover a criação de repositórios de dados de saúde brasileiros para pesquisa em IA, com governança pública e acesso regulado
Financeiro
IA em decisões de crédito, detecção de fraudes e Open Finance
Scoring de crédito algorítmico
Modelos de IA determinam o acesso ao crédito de milhões de brasileiros, analisando centenas de variaveis para calcular scores de risco. Além dos dados tradicionais de bureaus de crédito, novos modelos incorporam dados alternativos como comportamento em redes sociais, padrões de uso de celular e geolocalização — ampliando riscos de discriminação.
Desafios de Governança
- Discriminação algorítmica: modelos podem usar variaveis proxy para raça, gênero ou localidade, violando a LGPD é o Código de Defesa do Consumidor
- Opacidade: consumidores tem dificuldade para entender por que tiveram crédito negado e como melhorar seu score
- Uso de dados alternativos sem consentimento explicito ou compreensao do consumidor
- Efeitos cumulativos: um score baixo pode impactar acesso a moradia, emprego e outros serviços essenciais
O que o IBGIA propoe
- Exigir avaliações periódicas de viés em modelos de scoring, com publicação de métricas de equidade por grupos demográficos, conforme recomendações do BACEN
- Regulamentar o direito de explicação para decisões de crédito automatizadas, garantindo que consumidores compreendam os fatores determinantes e possam contestar
Deteccao de fraudes e prevenção a lavagem de dinheiro
Instituições financeiras utilizam IA para detectar transações suspeitas, identificar padrões de lavagem de dinheiro e prevenir fraudes em tempo real. Esses sistemas processam bilhoes de transações, mas precisam balancear a eficacia na detecção com a proteção de privacidade é a minimização de falsos positivos que bloqueiam clientes legitimos.
Desafios de Governança
- Equilibrio entre segurança e privacidade: monitoramento excessivo pode violar direitos dos clientes
- Falsos positivos que bloqueiam indevidamente transações de clientes legitimos, com impacto desproporcional em pequenos negocios e populações de menor renda
- Opacidade dos criterios de detecção: clientes bloqueados muitas vezes não recebem explicação adequada
- Evolucao constante das técnicas de fraude exige atualização contínua dos modelos, com riscos de drift algorítmico
O que o IBGIA propoe
- Criar frameworks de governança para sistemas anti-fraude que estabelecam limites claros de monitoramento e garantam direitos de contestação
- Promover sandbox regulatório com o BACEN para testar novas abordagens de IA em detecção de fraudes com supervisão e métricas de impacto social
IA no Open Finance
Com o avanço do Open Finance no Brasil, sistemas de IA passaram a analisar dados bancarios compartilhados entre instituições para oferecer produtos personalizados, análises de perfil financeiro e recomendações automatizadas. A governança dos dados compartilhados é a transparência sobre como a IA os utiliza são desafios centrais.
Desafios de Governança
- Governança de dados sensíveis compartilhados: quem e responsável quando dados fluem entre multiplas instituições?
- Consentimento granular: consumidores muitas vezes não compreendem a extensao do compartilhamento e uso dos seus dados
- Risco de concentração: grandes plataformas de tecnologia podem acumular vantagens informacionais desproporcionais
- Segurança cibernética: superficie de ataque ampliada pelo compartilhamento de dados entre multiplos agentes
O que o IBGIA propoe
- Desenvolver padrões de governança de IA específicos para o ecossistema de Open Finance, em parceria com o BACEN é o setor financeiro
- Exigir transparência algorítmica em todas as recomendações financeiras automatizadas, com indicação clara de que uma IA participou da decisao
Juridico
IA na análise de decisões, contratos e compliance regulatório
Jurimetria e análise preditiva
A jurimetria — aplicação de métodos quantitativos e IA ao Direito — tem crescido significativamente no Brasil. Ferramentas de análise preditiva são usadas pelo CNJ, tribunais superiores e grandes escritorios de advocacia para estimar probabilidades de sucesso em ações, identificar padrões decisorios e otimizar estrategias jurídicas.
Desafios de Governança
- Risco de profecia autorrealizável: se advogados ajustam estrategias com base em predicoes de IA, as predicoes moldam os próprios resultados
- Vies nos dados históricos: decisões passadas refletem desigualdades e podem não representar a jurisprudência desejável
- Falta de padronização na coleta e estruturação de dados judiciais entre tribunais brasileiros
- Transparência limitada sobre metodologia e limitações das ferramentas de jurimetria comerciais
O que o IBGIA propoe
- Estabelecer diretrizes para uso etico de jurimetria, incluindo requisitos de transparência metodologica e advertencias sobre limitações das predicoes
- Promover a criação de datasets judiciais abertos e padronizados, facilitando a pesquisa independente é a auditoria de ferramentas comerciais
Contratos inteligentes e revisão automatizada
Ferramentas de IA para revisão, análise e geração de contratos estão se tornando comuns em departamentos jurídicos e escritorios de advocacia. Esses sistemas podem analisar milhares de contratos rapidamente, identificar cláusulas de risco e até gerar minutas completas — mas levantam questões sobre responsabilidade legal e confiabilidade.
Desafios de Governança
- Responsabilidade legal: quem responde por erros em contratos gerados ou revisados por IA — o advogado, o escritorio ou o fornecedor de tecnologia?
- Alucinações em IA generativa: modelos podem inventar cláusulas, jurisprudência ou referências normativas inexistentes
- Confidencialidade: dados contratuais sensíveis podem ser usados para treinar modelos, criando riscos de vazamento
- Substituição de análise humana: pressao por eficiência pode levar a aceitação acrítica de outputs da IA
O que o IBGIA propoe
- Desenvolver standards de qualidade e certificação para ferramentas de IA jurídica, com requisitos de validação humana obrigatória
- Criar guidelines sobre responsabilidade profissional do advogado no uso de ferramentas de IA, em colaboração com a OAB é o CNJ
Compliance automatizado
Sistemas de IA estão sendo utilizados para monitorar conformidade regulatória em tempo real, acompanhar mudanças legislativas, identificar riscos de não-conformidade e gerar relatórios automáticos. Com a complexidade crescente do ambiente regulatório brasileiro — LGPD, PL 2338/2023, normas setoriais — a automação do compliance se torna cada vez mais relevante.
Desafios de Governança
- Complexidade regulatória: sistemas precisam acompanhar multiplas normas em evolução simultanea (LGPD, PL 2338, regulações setoriais)
- Interpretação normativa: IA pode não capturar nuances interpretativas e divergências jurisprudênciais
- Risco de falsa segurança: organizações podem tratar o compliance automatizado como substituto completo da análise jurídica humana
- Accountability: dificuldade em rastrear como o sistema chegou a uma conclusao de conformidade ou não-conformidade
O que o IBGIA propoe
- Promover a integração entre ferramentas de compliance automatizado e frameworks de governança de IA, garantindo supervisão humana em decisões críticas
- Desenvolver metodologias de validação contínua para sistemas de compliance baseados em IA, com testes regulares contra cenários reais e edge cases
Educação
IA no ensino personalizado, avaliação e gestão escolar
Sistemas adaptativos de aprendizagem
Plataformas de ensino personalizadas por IA adaptam o conteúdo, o ritmo e a metodologia ao perfil de cada aluno. No Brasil, essas ferramentas estão sendo adotadas tanto na rede pública quanto em escolas privadas. No entanto, os dados coletados sobre criancas e adolescentes exigem proteção especial e governança rigorosa.
Desafios de Governança
- Proteção de dados de criancas e adolescentes: a LGPD exige consentimento parental e tratamento com base no melhor interesse da crianca
- Comercialização de dados educacionais: plataformas privadas podem utilizar dados de aprendizagem para fins comerciais sem transparência
- Padronização excessiva: algoritmos podem restringir a diversidade pedagogica ao otimizar para métricas estreitas de desempenho
- Exclusao digital: alunos sem acesso adequado a tecnologia ficam em desvantagem crescente com a digitalização do ensino
O que o IBGIA propoe
- Criar diretrizes nacionais para uso etico de IA em educação, com foco especial na proteção de dados de menores e na transparência para país e responsáveis
- Exigir avaliações de impacto antes da adoção de plataformas de IA por redes de ensino públicas, incluindo análise de equidade e acessibilidade
Avaliação automatizada
Ferramentas de IA para correção de provas, avaliação de redações e análise de trabalhos acadêmicos estão em uso crescente no Brasil — desde o ENEM até avaliações internas de universidades. Essas ferramentas prometem eficiência e consistência, mas levantam preocupações sobre viés linguístico, equidade é a capacidade de avaliar pensamento crítico.
Desafios de Governança
- Vies linguístico: sistemas treinados em padrões de escrita de determinados grupos podem penalizar variações regionais e sociolinguisticas
- Equidade: alunos com acesso a IA generativa para redigir trabalhos podem ser beneficiados em avaliações automatizadas que não detectam uso de IA
- Limitação qualitativa: IA tem dificuldade em avaliar criatividade, originalidade e pensamento crítico
- Pressao sobre professores: redução da avaliação a métricas quantificaveis pode desvalorizar o julgamento pedagogico humano
O que o IBGIA propoe
- Desenvolver padrões de qualidade e equidade para ferramentas de avaliação automatizada, com testes obrigatórios de viés linguístico e socioeconômico
- Garantir que a avaliação automatizada seja sempre complementar — nunca substituta — a avaliação humana em decisões de alto impacto (aprovação, reprovação, selecao)
Gestão escolar algorítmica
Algoritmos são usados na gestão escolar para alocação de recursos, previsão de evasao, distribuicao de alunos em turmas e planejamento de demanda. Secretarias de Educação de grandes municipios brasileiros já utilizam modelos preditivos para identificar alunos em risco de abandono escolar.
Desafios de Governança
- Transparência para país e alunos: decisões algorítmicas sobre alocação e recursos escolares muitas vezes são invisiveis para a comunidade escolar
- Estigmatização: alunos identificados como 'em risco' por algoritmos podem sofrer efeitos negativos de rotulação prematura
- Qualidade dos dados: dados educacionais brasileiros são frequentemente incompletos, desatualizados e inconsistentes entre redes de ensino
- Redução do papel humano: dependência excessiva de dados pode afastar gestores do contato direto com a realidade das escolas
O que o IBGIA propoe
- Implementar mecanismos de transparência que permitam a comunidade escolar compreender como algoritmos participam de decisões que afetam alunos e escolas
- Estabelecer protocolos que garantam supervisão humana e contextualização pedagogica de todas as recomendações algorítmicas em gestão escolar
Receba casos práticos de governança de IA
Assine a newsletter do IBGIA e receba análises setoriais, frameworks e estudos de caso sobre IA responsável.
Análises exclusivas sobre governança de IA
Receba análises, alertas regulatórios e frameworks práticos sobre IA no Brasil. Toda semana no seu email — gratuito.
Aprofunde seu conhecimento
Quer ajudar a construir governança de IA no Brasil?
Associe-se ao IBGIA e contribua com sua experiência para enfrentar os desafios práticos da IA em cada setor da sociedade.