Governança de IA na Saúde
Como garantir que a inteligência artificial no setor de saúde seja segura, equitativa e transparente — protegendo pacientes e fortalecendo o cuidado clínico no Brasil.
IA e Saúde: Uma Revolução que Exige Governança
A inteligência artificial está transformando o setor de saúde globalmente: diagnósticos mais rápidos e precisos, tratamentos personalizados, descoberta acelerada de fármacos e gestão otimizada de recursos hospitalares. No Brasil, essa transformação tem particularidades críticas — um sistema público que atende mais de 150 milhões de pessoas, uma população geneticamente diversa e desigualdades regionais profundas no acesso à saúde.
Sem governança adequada, os mesmos sistemas de IA que prometem democratizar o acesso à saúde podem amplificar desigualdades existentes. Algoritmos treinados com dados enviesados podem errar mais em populações vulneráveis; decisões automatizadas de triagem podem discriminar pacientes sem que ninguém perceba; e dados sensíveis de saúde podem ser utilizados sem consentimento informado. Para termos um panorama dos termos técnicos, consulte nosso glossário de governança de IA.
Principais Desafios
O uso de IA em saúde traz desafios específicos que exigem respostas de governança proporcionais ao impacto sobre vidas humanas.
Viés algorítmico em diagnósticos
Modelos de IA treinados predominantemente com dados de populações do hemisfério norte apresentam desempenho inferior em pacientes brasileiros. Estudos mostram que algoritmos de dermatologia, por exemplo, têm acurácia significativamente menor em peles negras e pardas — a maioria da população brasileira. Esse viés pode resultar em diagnósticos tardios, tratamentos inadequados e agravamento de desigualdades em saúde já existentes.
Privacidade de dados de saúde (LGPD)
Dados de saúde são classificados como sensíveis pela LGPD (art. 5o, II) e exigem bases legais específicas para tratamento (art. 11). No entanto, o uso massivo de IA em hospitais, laboratórios e operadoras de saúde cria desafios inéditos: prontuários eletrônicos alimentam modelos de machine learning, wearables coletam dados biométricos em tempo real, e plataformas de telemedicina processam informações de consultas. Garantir conformidade com a LGPD nesse cenário exige governança robusta.
Responsabilidade por decisões clínicas
Quando um sistema de IA auxilia um diagnóstico que se revela errado, quem responde? O médico que confiou na recomendação? O hospital que adquiriu o sistema? O desenvolvedor que treinou o modelo? A legislação brasileira atual não oferece respostas claras. O Conselho Federal de Medicina (CFM) ainda está definindo diretrizes sobre responsabilidade médica no uso de IA, criando insegurança jurídica para profissionais e instituições.
Equidade de acesso e exclusão digital
O SUS atende mais de 150 milhões de brasileiros, mas a adoção de IA em saúde é desigual. Hospitais de referência em grandes centros têm acesso a ferramentas avançadas de diagnóstico por IA, enquanto unidades básicas de saúde em regiões remotas operam com infraestrutura limitada. Essa assimetria pode ampliar a desigualdade no acesso a diagnósticos precisos e tratamentos oportunos — exatamente o oposto do que a tecnologia deveria promover.
Frameworks e Regulação
A regulação de IA em saúde é um dos campos mais avançados globalmente, dado o impacto direto sobre vidas humanas. Conheça os principais frameworks de referência.
FDA — Artificial Intelligence and Machine Learning (AI/ML)
SaMD e GMLPA Food and Drug Administration dos EUA desenvolveu um framework regulatório para Software as a Medical Device (SaMD) baseado em IA. O modelo exige boa prática de machine learning (Good Machine Learning Practice - GMLP), monitoramento pós-mercado contínuo e propõe uma abordagem de 'locked algorithms' vs. 'continuously learning algorithms' com requisitos distintos de aprovação. A ANVISA tem se inspirado nesse modelo para construir a regulação brasileira.
OMS — Orientações sobre Ética e Governança de IA em Saúde
6 princípios globaisA Organização Mundial da Saúde publicou em 2021 as primeiras orientações globais sobre ética e governança de IA em saúde, com seis princípios: proteção da autonomia humana, promoção do bem-estar, garantia de transparência e explicabilidade, promoção de responsabilidade, garantia de inclusão e equidade, e promoção de IA responsiva e sustentável. O documento é referência para políticas nacionais em mais de 50 países.
EU AI Act — Classificação de Alto Risco em Saúde
Classificação de alto riscoO AI Act da União Europeia classifica dispositivos médicos de IA como sistemas de alto risco (Annex III), exigindo avaliação de conformidade, documentação técnica detalhada, sistemas de gestão de qualidade, monitoramento pós-mercado e supervisão humana. Fabricantes devem demonstrar robustez, acurácia e cibersegurança antes da comercialização. Essa classificação impacta empresas brasileiras que exportam para a UE.
ANVISA — Software como Dispositivo Médico (SaMD)
Regulação brasileira em construçãoA ANVISA tem avançado na regulação de SaMD no Brasil, publicando guias sobre requisitos de segurança e eficácia para softwares de suporte à decisão clínica. Em 2024, a agência iniciou consultas públicas sobre frameworks específicos para IA em saúde, incluindo requisitos de validação clínica, transparência algorítmica e vigilância pós-comercialização. O alinhamento com padrões internacionais (FDA, EU MDR) é um objetivo declarado.
Casos Brasileiros
O Brasil já utiliza IA em saúde em larga escala. Estes são os principais contextos onde a governança responsável é urgente.
IA no Sistema Único de Saúde (SUS)
O SUS é o maior sistema público de saúde do mundo, atendendo mais de 150 milhões de brasileiros. A adoção de IA no sistema vai desde triagem de pacientes por algoritmos de classificação de risco em prontos-socorros até modelos preditivos para gestão de filas cirúrgicas e identificação precoce de surtos epidemiológicos. O Hospital das Clínicas da USP, por exemplo, já utiliza IA para detecção de retinopatia diabética em imagens de fundo de olho, ampliando o acesso ao diagnóstico oftalmológico.
Desafios de Governança
- Validação clínica insuficiente: muitos algoritmos são implementados sem estudos robustos na população brasileira
- Infraestrutura heterogênea: digitalização parcial dos prontuários dificulta a alimentação consistente de modelos de IA
- Governança fragmentada: não há diretrizes unificadas do Ministério da Saúde sobre o uso de IA no SUS
- Capacitação profissional: profissionais de saúde precisam entender as limitações e vieses dos sistemas de IA que utilizam
O que o IBGIA propõe
- Criar uma política nacional de IA em saúde pública com diretrizes claras para aquisição, validação e monitoramento de sistemas de IA no SUS
- Estabelecer comitês de governança de IA nos hospitais de referência, com representação de profissionais de saúde, pacientes e especialistas em ética
Telemedicina e IA pós-pandemia
A pandemia de COVID-19 acelerou a adoção de telemedicina no Brasil, regulamentada pela Lei 14.510/2022. Plataformas de teleconsulta incorporam cada vez mais funcionalidades de IA: triagem automatizada de sintomas, sugestões de diagnóstico durante consultas, monitoramento remoto de pacientes crônicos e análise de dados de wearables. O volume de dados gerados é massivo — e a governança sobre seu uso ainda é incipiente.
Desafios de Governança
- Consentimento informado: pacientes muitas vezes não sabem que IA participa da análise de seus dados durante teleconsultas
- Segurança de dados: plataformas de telemedicina processam dados sensíveis que podem ser vulneráveis a ataques
- Responsabilidade médica à distância: a mediação por IA em teleconsultas cria camadas adicionais de complexidade jurídica
- Integração de dados: wearables e apps de saúde geram dados fora do ambiente clínico, sem governança clara sobre seu uso por sistemas de IA
O que o IBGIA propõe
- Exigir transparência sobre o papel de IA em plataformas de telemedicina, com comunicação clara aos pacientes sobre quando e como algoritmos participam de seu atendimento
- Desenvolver padrões de segurança cibernética específicos para dados de saúde processados por IA, em conformidade com a LGPD e a regulação da ANVISA
Dados de saúde e pesquisa genômica
O Brasil possui uma das populações mais geneticamente diversas do mundo, o que torna a pesquisa genômica com IA particularmente valiosa — e sensível. Iniciativas como o projeto Genomas Brasil e pesquisas em instituições como a Fiocruz e o Hospital Israelita Albert Einstein utilizam IA para análise genômica, descoberta de biomarcadores e medicina de precisão. A governança desses dados é crítica tanto pela sensibilidade das informações quanto pelo potencial de discriminação genética.
Desafios de Governança
- Dados genéticos são identificáveis mesmo quando anonimizados, exigindo proteção especial além da LGPD padrão
- Risco de discriminação genética: informações de predisposição a doenças podem ser usadas por empregadores ou seguradoras
- Soberania de dados: pesquisas genômicas com participação de empresas estrangeiras levantam questões sobre quem controla e se beneficia dos dados da população brasileira
- Consentimento de longo prazo: dados genéticos coletados hoje podem ser analisados por IA com capacidades futuras não previstas no consentimento original
O que o IBGIA propõe
- Estabelecer um marco regulatório específico para IA em pesquisa genômica, com regras claras sobre consentimento, compartilhamento internacional e uso secundário de dados
- Promover a criação de biobancos nacionais com governança pública, garantindo que a diversidade genética brasileira beneficie a pesquisa e a saúde pública do país
Como o IBGIA Pode Ajudar
Governança de IA em saúde adaptada ao contexto brasileiro
O IBGIA atua na interseção entre tecnologia, regulação e saúde pública. Nosso trabalho no setor de saúde se organiza em quatro frentes complementares:
- Avaliação de viés e equidade: Desenvolvemos metodologias para testar algoritmos de saúde em populações brasileiras, identificando vieses raciais, socioeconômicos e regionais antes que causem danos reais.
- Conformidade regulatória: Apoiamos hospitais, laboratórios e healthtechs na adequação à LGPD para dados de saúde, na preparação para os frameworks da ANVISA sobre SaMD e na antecipação de requisitos do PL 2338/2023.
- Capacitação profissional: Oferecemos programas de formação em governança de IA para profissionais de saúde, gestores hospitalares e equipes de tecnologia, com foco nas especificidades do setor.
- Participação regulatória: Contribuímos ativamente para consultas públicas da ANVISA, ANPD e Ministério da Saúde sobre regulação de IA em saúde, trazendo a perspectiva da sociedade civil e da academia.
Aprofunde seu conhecimento
Receba análises sobre IA na saúde
Assine a newsletter do IBGIA e receba atualizações sobre governança de IA no setor de saúde, frameworks regulatórios e casos brasileiros.
Análises exclusivas sobre governança de IA
Receba análises, alertas regulatórios e frameworks práticos sobre IA no Brasil. Toda semana no seu email — gratuito.
Quer fortalecer a governança de IA na saúde?
Junte-se ao IBGIA e contribua para garantir que a inteligência artificial em saúde seja segura, equitativa e transparente para todos os brasileiros.