IA no Diagnóstico Médico — A Preocupação #1 em Segurança do Paciente em 2026

Quando o ECRI Institute — referência global em avaliação de tecnologias em saúde — publicou sua lista anual das 10 maiores preocupações em segurança do paciente para 2026, o primeiro lugar foi ocupado por uma tecnologia que promete revolucionar a medicina: a inteligência artificial aplicada ao diagnóstico clínico. Com mais de 1.250 dispositivos médicos com IA já aprovados pelo FDA nos Estados Unidos, modelos de machine learning falhando em reconhecer condições críticas de saúde, e uma onda legislativa em mais de 34 estados americanos, a comunidade médica global enfrenta uma questão fundamental — até que ponto podemos confiar em algoritmos para tomar decisões que determinam vida ou morte?

Por que a IA diagnóstica se tornou a preocupação #1

A classificação do ECRI não é alarmismo. É o resultado de uma análise rigorosa de incidentes, tendências e riscos emergentes em milhares de instituições de saúde ao redor do mundo. A inteligência artificial chegou ao diagnóstico médico com promessas extraordinárias: detectar câncer em exames de imagem com precisão sobre-humana, identificar padrões em dados clínicos invisíveis ao olho humano, acelerar diagnósticos em emergências onde cada minuto conta.

O problema é que a realidade tem ficado aquém das promessas. Relatórios recentes documentam uma série de falhas preocupantes:

• Modelos de machine learning que falharam em reconhecer condições críticas de saúde, incluindo emergências cardiovasculares e complicações pós-operatórias, gerando falsos negativos que atrasaram tratamentos potencialmente salvadores de vidas.
• IA generativa com dificuldades de precisão em conversas com pacientes, produzindo informações médicas incorretas, contraditórias ou potencialmente perigosas quando usada em triagem e orientação clínica.
• Sistemas de detecção de câncer com desempenho degradado em populações sub-representadas nos dados de treinamento, falhando especificamente em identificar tumores em pacientes negros, hispânicos e de outras etnias minoritárias cujos dados são escassos nos datasets médicos predominantemente baseados em populações brancas.
• Doenças raras sistematicamente ignoradas por algoritmos treinados em dados de condições comuns, criando um ponto cego diagnóstico que afeta exatamente os pacientes mais vulneráveis — aqueles com patologias incomuns que mais precisam de diagnóstico preciso e precoce.

O problema fundamental: modelos são tão bons quanto seus dados

A raiz de muitas dessas falhas é um princípio que a comunidade de ciência da computação conhece bem, mas que o setor de saúde ainda está absorvendo: modelos de IA são tão confiáveis quanto os dados usados para treiná-los. E os dados médicos disponíveis para treinamento são inerentemente enviesados.

Historicamente, ensaios clínicos e bases de dados médicos sobre-representam homens brancos de meia-idade em países de alta renda. Mulheres, minorias étnicas, populações de países em desenvolvimento e pacientes com condições raras são sub-representados — quando não completamente ausentes. Quando um modelo de IA é treinado nesses dados desequilibrados, ele aprende a diagnosticar bem quem já era bem atendido pelo sistema de saúde, e mal quem já era negligenciado.

O resultado é perverso: a IA, em vez de democratizar o acesso a diagnósticos de qualidade, pode perpetuar e amplificar disparidades em saúde que já são graves. Um algoritmo de detecção de melanoma treinado predominantemente em imagens de pele clara terá desempenho inferior em pacientes de pele escura — exatamente a população que já enfrenta diagnósticos tardios de câncer de pele por conta de vieses no sistema de saúde tradicional.

O mapa regulatório: uma corrida para estabelecer guardrails

Diante da proliferação de ferramentas de IA diagnóstica e da acumulação de evidências sobre seus riscos, governos ao redor do mundo estão criando marcos regulatórios em velocidade sem precedentes. O cenário é de experimentação legislativa — cada jurisdição testando abordagens diferentes para o mesmo dilema.

Estados Unidos: o laboratório de 34 estados

Os Estados Unidos se tornaram o maior laboratório regulatório do mundo para IA em saúde. Mais de 250 projetos de lei sobre IA em saúde foram introduzidos em mais de 34 estados, criando um mosaico normativo que varia dramaticamente de jurisdição para jurisdição.

Entre as iniciativas mais significativas:

• Texas: desde 1º de janeiro de 2026, exige divulgação por escrito ao paciente sempre que IA for utilizada em qualquer etapa do atendimento médico. É a primeira lei estadual a tratar a transparência do uso de IA em saúde como um direito do paciente, e não como uma opção do prestador.
• Utah (AI Policy Act): estabeleceu requisitos de divulgação obrigatória sobre o uso de IA em interações com pacientes, com foco em garantir que o paciente saiba quando está interagindo com um sistema automatizado versus um profissional humano.
• Colorado (AI Act): foi além da divulgação e criou mecanismos de opt-out — o paciente tem o direito de recusar que IA seja usada em seu diagnóstico ou tratamento e solicitar avaliação exclusivamente humana, sem prejuízo ao atendimento.

No nível federal, a resposta tem sido mais articulada institucionalmente. O FDA, o CMS (Centers for Medicare & Medicaid Services) e o HHS (Department of Health and Human Services) lançaram um plano de ação colaborativo para IA em saúde que se articula em três eixos: aceleração da inovação (com processos de aprovação mais ágeis para dispositivos de IA), construção de infraestrutura (padrões de dados, interoperabilidade, bases de treinamento diversificadas) e liderança internacional (exportar padrões americanos para organismos multilaterais).

Um dado ilustra a escala do desafio regulatório: o FDA já aprovou mais de 1.250 dispositivos médicos com componentes de IA ou machine learning. A vasta maioria é de ferramentas de apoio à radiologia (detecção de nódulos, análise de imagens cardíacas, triagem de retina diabética), mas o espectro está se ampliando rapidamente para patologia, genômica, dermatologia e até psiquiatria computacional.

União Europeia: IA diagnóstica como alto risco

O EU AI Act, com entrada em vigor progressiva a partir de 2025, classifica explicitamente dispositivos médicos com IA como sistemas de alto risco. Isso implica que fabricantes de ferramentas de IA diagnóstica que operem no mercado europeu devem cumprir requisitos rigorosos:

• Avaliação de conformidade com padrões de qualidade de dados, documentação técnica e supervisão humana.
• Gestão contínua de riscos, incluindo monitoramento pós-comercialização para detectar degradação de desempenho ou emergência de vieses.
• Transparência obrigatória: profissionais de saúde e pacientes devem ser informados quando IA está envolvida em diagnósticos.
• Supervisão humana significativa: o diagnóstico final deve envolver um profissional de saúde qualificado, com acesso a informações suficientes para avaliar criticamente a recomendação do algoritmo.

O contexto brasileiro: ANVISA, LGPD e o vazio regulatório

O Brasil ocupa uma posição peculiar nesse cenário global. Temos instrumentos regulatórios relevantes — a ANVISA para dispositivos médicos, a LGPD para proteção de dados sensíveis de saúde, o PL 2338/2023 em tramitação para regulação geral de IA — mas nenhum marco específico que aborde os riscos de IA em diagnóstico médico de forma integrada.

ANVISA e dispositivos médicos com IA

A ANVISA regula dispositivos médicos no Brasil, incluindo software como dispositivo médico (SaMD). No entanto, a regulamentação vigente foi desenhada para softwares estáticos — não para modelos de machine learning que continuam aprendendo após a implantação. A diferença é fundamental: um software tradicional faz a mesma coisa sempre que é executado; um modelo de ML pode mudar seu comportamento conforme recebe novos dados, potencialmente degradando sua performance de formas imprevisíveis.

A ANVISA ainda não publicou regulamentação específica para IA adaptativa em dispositivos médicos, criando uma zona cinzenta regulatória que tanto fabricantes quanto hospitais precisam navegar com cautela. Enquanto o FDA americano já desenvolveu um framework para dispositivos de IA com aprendizado contínuo (predetermined change control plans), o Brasil carece de instrumento equivalente.

LGPD e dados sensíveis de saúde

A LGPD classifica dados de saúde como dados sensíveis, sujeitos a proteções adicionais. No contexto de IA diagnóstica, isso levanta questões complexas:

• Consentimento para treinamento: modelos de IA são treinados em grandes volumes de dados de pacientes. A LGPD exige base legal para esse tratamento — mas como obter consentimento informado quando o paciente sequer sabe que seus dados serão usados para treinar algoritmos que diagnosticarão outros pacientes?
• Direito à explicação: o artigo 20 da LGPD garante o direito a revisão de decisões automatizadas. Em diagnóstico médico, isso significa que um paciente pode exigir explicação sobre como o algoritmo chegou a determinada conclusão — mas modelos de deep learning são frequentemente "caixas-pretas" cujas decisões são difíceis de explicar mesmo para seus criadores.
• Transferência internacional de dados: muitos modelos de IA diagnóstica são desenvolvidos e treinados em servidores no exterior. A transferência de dados de saúde de pacientes brasileiros para treinamento de modelos internacionais levanta questões de soberania de dados e conformidade com a LGPD.

PL 2338 e implicações para IA em saúde

O PL 2338/2023, principal projeto de lei sobre regulação de IA no Brasil, classifica sistemas de IA em saúde como alto risco — alinhando-se à abordagem europeia. Se aprovado, ferramentas de IA diagnóstica deverão cumprir requisitos de:

• Avaliação de impacto algorítmico antes da implantação
• Supervisão humana obrigatória em decisões diagnósticas
• Transparência sobre o uso de IA no atendimento
• Mecanismos de contestação e revisão por pacientes

No entanto, o PL ainda está em tramitação, e o Brasil segue sem regulamentação específica vigente para IA em diagnóstico médico — um vazio que se torna mais preocupante à medida que hospitais brasileiros aceleram a adoção dessas tecnologias.

O princípio central: IA como suplemento, nunca como substituto

Em meio ao debate regulatório e às evidências de falhas, um princípio vem se consolidando como consenso global entre reguladores, médicos e especialistas em IA: a inteligência artificial deve suplementar a expertise clínica, nunca substituí-la.

Esse princípio não é apenas ético — é prático. Os dados mostram que o melhor desempenho diagnóstico ocorre quando IA e médicos trabalham juntos, em um modelo onde o algoritmo identifica padrões e o profissional de saúde contextualiza, valida e decide. Estudos em radiologia demonstram que a combinação médico + IA supera tanto o médico sozinho quanto a IA sozinha, especialmente em casos complexos ou ambíguos.

O problema surge quando pressões econômicas e escassez de profissionais empurram o sistema para usar IA como substituto — não como ferramenta auxiliar. Em pronto-socorros lotados, clínicas com poucos médicos, e regiões remotas sem especialistas, a tentação de confiar exclusivamente na IA para triagem e diagnóstico é enorme. E é exatamente nesses contextos de vulnerabilidade que os riscos de falha são maiores.

O dilema do acesso: IA imperfeita versus nenhuma IA

Um argumento frequente a favor da implantação ampla de IA diagnóstica, mesmo com suas imperfeições, é o dilema do acesso: em regiões onde não há dermatologista, um algoritmo que detecta melanoma com 85% de acurácia é melhor do que nenhum diagnóstico. Em comunidades sem radiologista, uma IA que identifica pneumonia em raios-X com 90% de precisão salva vidas que de outra forma seriam perdidas.

Esse argumento tem mérito — mas exige nuance. A resposta não é proibir IA imperfeita em contextos de escassez; é garantir que os pacientes saibam que estão sendo avaliados por IA, que os limites do sistema sejam comunicados com clareza, e que mecanismos de encaminhamento para avaliação humana existam quando o algoritmo expressa baixa confiança. Em outras palavras: governança, não proibição.

O que o Brasil precisa fazer agora

O Brasil tem uma oportunidade de aprender com a experiência internacional — tanto com os avanços regulatórios quanto com as falhas documentadas — para construir um marco de governança de IA em saúde que seja ao mesmo tempo protetor e promotor de inovação.

O IBGIA identifica cinco ações prioritárias:

• Regulamentação específica da ANVISA para IA adaptativa: criar normas para dispositivos médicos que utilizam modelos de aprendizado contínuo, incluindo requisitos de monitoramento pós-comercialização e planos de controle de mudanças predeterminadas, seguindo o modelo do FDA.
• Requisito de divulgação ao paciente: inspirado na lei do Texas, exigir que pacientes sejam informados por escrito sempre que IA for utilizada em seu diagnóstico ou tratamento — um direito básico de transparência que não existe hoje na legislação brasileira.
• Padrões de diversidade em dados de treinamento: estabelecer requisitos mínimos de representatividade da população brasileira em datasets usados para treinar modelos de IA diagnóstica, garantindo que algoritmos funcionem adequadamente para todas as etnias, faixas etárias e regiões do país.
• Mecanismo de opt-out significativo: garantir que pacientes possam recusar avaliação por IA sem prejuízo ao atendimento, com alternativa humana real disponível — seguindo o modelo do Colorado.
• Aceleração do PL 2338: aprovar a regulação geral de IA com disposições específicas para saúde, criando a base legal para que ANVISA e ANS desenvolvam regulamentações setoriais adequadas.

Conclusão: governança como condição para confiança

A inteligência artificial tem potencial transformador para o diagnóstico médico. Ela pode democratizar o acesso a expertise especializada, acelerar a detecção precoce de doenças e revelar padrões clínicos invisíveis à análise humana. Mas esse potencial só se realizará se vier acompanhado de governança robusta.

A classificação do ECRI não é um veredito contra a IA em saúde — é um chamado à responsabilidade. Os algoritmos não examinados que perpetuam disparidades, os modelos que falham silenciosamente em populações sub-representadas, e a tentação de substituir expertise clínica por eficiência algorítmica são riscos reais que exigem respostas regulatórias concretas.

O IBGIA defende que a governança de IA em saúde não é um freio à inovação — é a condição para que a inovação seja digna de confiança. Pacientes não deveriam ter que escolher entre tecnologia de ponta e segurança. Com regulação adequada, transparência obrigatória e supervisão humana significativa, é possível ter ambos.